امروزه مربیان در تلاش هستند تکالیف نوشته‌شده با چت‌بات را شناسایی کنند! پس از انتشار ChatGPT، معلمان به سرعت فهمیدند که این چت‌بات هوش مصنوعی، سرقت ادبی انجام می‌دهد! ابزارهای تشخیص متن هوش مصنوعی، حتی آن‌هایی که ادعا می‌کنند دقت بالایی دارند هنوز دارای نقص‌های بزرگی هستند!
آکادمی‌ها، دانشگاه‌ها و حتی شرکت OpenAi به‌دنبال تولید GenAI (تولید محتوای متنی) هستند؛ اما هیچ‌کدام از این ابزارها به‌اندازه‌ی کافی موثر نبودند و مشکل بدتر شد.
کریس کالیسوم برچ استاد کامپیوتر و علوم اطلاعات دانشگاه‌پنسیلوانیا می‌گوید: «با پیشرفت فناوری تولید متن توسط ماشین‌های هوش مصنوعی، فناوری افشای متن‌های تولیدی نیز پیشرفت می‌کند! این یک مسابقه است.»
Raid و آشکارسازی ChatGpt!
برچ و تیمی از محققان سیستمی برای تست این ابزارها ایجاد کردند! این گروه معتقدند: « ابزارهای تولید متن آنقدر عالی هستند که نمی‌توانند درست باشند! » این گروه با ابزاری به‌نام Raid دریافتند که آشکارسازهای فعلی آنطور که ادعا می‌کنند، درست نیستند و به‌راحتی می‌توان آن‌ها را فریب داد.
این ابزار بسیاری از متون تولیدی توسط هوش مصنوعی را به‌عنوان نوشته‌های یک انسان شناسایی کرد! کالیسون برچ به خبرگزاری Axios گفت:« این یک معماست، و به‌عنوان یک استاد نمی‌خواهد هیچ دانشجویی را به تقلب با چت‌بات متهم کند!» ولی او عدم تشخیص نوشته‌های هوش مصنوعی با این ابزار را به‌پای دقت پایین آن گذاشت!
نشانه‌گذاری متون تولید شده با ابزارهای گوگل!
در اوایل امسال گوگل تکنیک جدیدی برای ایجاد نشانه‌ای در متن (watermark) معرفی کرد؛ تا بعدا متون تولید شده توسط هوش مصنوعی و چت‌بات‌ها را شناسایی کند، اما تاکنون هیچ آپدیتی برای این ابزار منتشر نشده‌است. برچ این ابزار را یک ایده‌ی عالی می‌داند، اما معتقد است این روش برای تشخیص سرقت ادبی دانش‌آموزان کافی نیست! زیرا باید توسط ابزارهای هوش مصنوعی و چت‌بات‌ها تایید و استفاده شود.
کالیسوم برچ معتقد است: « کاربران همچنین می‌توانند با دانلود نرم‌افزارهای منبع‌باز (Open Source ) متونی بدون نشانه دریافت کنند. » OpenAi همچنین روشی برای نشانه‌گذاری متون توسعه‌داده‌است، اما هنوز آن را منتشر نکرده! یکی از سخنگویان این شرکت گفت:« این ابزار از لحاظ فنی امیدوارکننده است، اما همچنان خطراتی دارد که درحال بررسی آن‌ها هستیم.»
Grammarly و متون قابل تشخیص
دستیار محبوب ویرایش و تولید متن با هوش مصنوعی Grammarly، در تلاش است تا افشای تقلب را آسان تر کند! این شرکت در اواخر این ماه، ابزاری به نام Authorship را برای همه مشتریان خود راه‌اندازی می‌کند.
کلیف آرکی (Cliff Archey ) مدیر بازاریابی محصول Authorship، گفت:« این ابزار را یک آشکارساز هوش مصنوعی خطاب نکنید! Authorship درعوض به دانش‌آموزان اجازه می‌دهد تا ابزار کار خود را نشان دهند! همانطور که معلمان ریاضی از ماشین حساب استفاده می‌کنند.»
این ابزار بخش‌های کپی شده توسط چت‌بات ChatGPT یا منابع دیگر هوش مصنوعی را برچسب‌گذاری می‌کند.
آرچی به آکسیوس گفت: «دیدگاه ما در مورد نوشتن در عصر کنونی کاملا متناوب است. برای مثال در یک دوره‌ی آموزش نویسندگی مبتدی، هوش مصنوعی نباید همه‌ی نوشتن را انجام دهد! اما می‌تواند در بخش طوفان فکری (Brain storming ) موثر واقع شود. اما در کلاسی مانند کلاس ارتباطات، در مدرسه بازرگانی می‌توانید به‌راحتی از این ابزارها استفاده کنید.»
برچ موافق افشای genAI است؛ اما می‌گوید:”این افشا در چه حدی باید انجام شود؟ هنوز در این مورد سوال است.”
بیشتر بخوانید: ChatGPT پاسخ را برای شما با صدای بلند می خواند!