تصور کنید که به داوری یک مسابقه نویسندگی در مدرسه خود کمک می کنید. شما می خواهید مطمئن شوید که هر کس کار خود را انجام می دهد. اگر شخصی از یک مدل هوش مصنوعی یا هوش مصنوعی مانند ChatGPT برای نوشتن یک پست استفاده کند، نباید حساب شود. اما چگونه می توان تشخیص داد که چیزی توسط هوش مصنوعی نوشته شده است؟ تحقیقات جدید روشی ساده برای آزمایش اینکه آیا شخص چیزی نوشته است یا نه نشان می دهد. فقط از یک ربات بخواهید آن را بازنویسی کند.
چنگجی مائو می‌گوید: «اگر از هوش مصنوعی بخواهید محتوایی که توسط هوش مصنوعی نوشته شده است را بازنویسی کند، تغییرات بسیار کمی ایجاد خواهد شد. وقتی هوش مصنوعی متن یک شخص را بازنویسی می کند، معمولاً تغییرات بسیار بیشتری ایجاد می کند.
مائو، جونفنگ یانگ و همکارانشان ابزاری به نام رایدار توسعه دادند. این یک آشکارساز است که متن تولید شده توسط ربات ها را با استفاده از تعابیر هوش مصنوعی تشخیص می دهد. مائو محققی در آزمایشگاه سیستم های نرم افزاری در دانشگاه کلمبیا در نیویورک است. یانگ این آزمایشگاه را اداره می کند.
یانگ می‌گوید جدا کردن مکالمه‌های ربات از مکالمات افراد «بسیار مهم» است. بسیاری از متون هوش مصنوعی در حال حاضر سیل رسانه های اجتماعی و بررسی محصولات را در بر می گیرند. آنها به وب سایت های اخبار جعلی دامن زدند و هرزنامه کتاب را راه اندازی کردند. برخی از دانش آموزان از هوش مصنوعی برای تقلب در تکالیف و تست ها استفاده می کنند. ابزارهایی مانند Raidar می توانند به افشای کلاهبرداران و دروغگوهای مبتنی بر هوش مصنوعی کمک کنند.
توسعه دهندگان Raidar این ابزار را در کنفرانس بین المللی نمایش های یادگیری ارائه کردند. این دیدار در 7 می در وین اتریش برگزار شد.
هوش مصنوعی را حذف کنید
مائو به طور مرتب از ChatGPT برای اصلاح نوشته های خود استفاده می کند. به عنوان مثال، او گاهی اوقات از ربات می خواهد که یک ایمیل را بازنویسی و بهبود بخشد. او متوجه شد که این ربات اولین باری که چیزی را که نوشته است بازنویسی می کند، کار بسیار خوبی انجام می دهد. اما وقتی دوباره از او می‌خواهد یک ایمیل را بهبود بخشد – یعنی متن ربات خودش را اصلاح کند – تغییر چندانی نمی‌کند.
مائو می گوید: «این به ما انگیزه داد. او متوجه شد که تعداد تغییراتی که یک ربات در یک متن ایجاد می کند می تواند چیزی در مورد نحوه نگارش متن اصلی بیان کند.
آمریتا باتاچارجی می گوید: «این یک ایده بسیار جالب است. هیچ کس قبلاً به این موضوع فکر نکرده بود. او درباره تشخیص متن مبتنی بر هوش مصنوعی تحقیق کرده است، اما در توسعه Raidar نقشی نداشته است.
سوال علمی دارید؟ ما به شما کمک می کنیم!
سوال خود را در اینجا برای ما ارسال کنید و ممکن است آن را در شماره آینده درج کنیم اخبار علمی را کاوش کنید
Raidar ابزاری است که تعیین می کند آیا یک متن احتمالاً توسط هوش مصنوعی ایجاد شده است یا خیر. برای آزمایش Raidar، تیم نمونه‌های متنی را از انسان‌ها و چندین چت ربات مختلف جمع‌آوری کرد. آنها این کار را برای انواع مختلف متن، از جمله داستان های خبری، بررسی های Yelp، مقالات دانشجویی و کدهای کامپیوتری انجام دادند. سپس تیم چندین مدل هوش مصنوعی را برای بازنویسی تمام نمونه‌های نوشته شده توسط انسان‌ها و ربات‌ها انجام داد.
در مرحله بعد، محققان از یک برنامه کامپیوتری ساده برای محاسبه تعداد تغییرات بین نسخه اصلی و ویرایش شده هر نمونه متن استفاده کردند. برای این مرحله نیازی به هوش مصنوعی نیست. بر اساس تعداد تغییرات در یک ویرایش، Raidar می‌تواند نمونه‌های متن را به نمونه‌های تولید شده توسط انسان و AI مرتب کند. حتی زمانی که هوش مصنوعی بازنویسی با هوش مصنوعی که نمونه متن اصلی را نوشته بود، به خوبی کار می کرد.
مرتب سازی Raidar کامل نیست. این ابزار گاهی اوقات یک متن انسانی را به عنوان یک متن هوش مصنوعی یا بالعکس شناسایی می کند. با این حال، محققان دریافتند که این ابزار بهتر از سایر ابزارهایی است که متن هوش مصنوعی را تشخیص می‌دهند.
بیشتر ابزارهای دیگر از مدل‌ها و آمارهای هوش مصنوعی برای یادگیری نوع ربات‌های متنی استفاده می‌کنند. این ابزارها معمولاً با متن های طولانی تر کار می کنند. برای متن‌های کوتاه مانند مواردی که در رسانه‌های اجتماعی یا تکالیف یافت می‌شوند، ممکن است اصلاً کارایی نداشته باشند. اما Raidar حتی با متون کوتاه به اندازه 10 کلمه به خوبی کار می کند.
یک پرچم قرمز
تیم یانگ و مائو در تلاش هستند تا Raider را به یک ابزار آنلاین تبدیل کنند که همه بتوانند از آن استفاده کنند. وقتی آماده شد، افراد می‌توانند متنی را از طریق ابزار ارسال کنند و بفهمند که آیا احتمالاً توسط هوش مصنوعی تولید شده است یا خیر.
یانگ می گوید تا آن زمان، ایده پشت Raidar برای همه آسان است. لازم نیست دانشمند کامپیوتر یا دانشمند داده باشید. اگر ربات تغییرات بسیار کمی ایجاد کند، ممکن است دانش آموز از هوش مصنوعی استفاده کرده باشد.
باتاچارجی اشاره می کند که معلمان نباید تنها بر اساس نتایج رایدار تصمیم بگیرند. او می گوید: «قضاوت نهایی نباید صرفاً بر اساس این ابزار باشد. این به این دلیل است که Raidar همیشه آن را به درستی دریافت نمی کند. علاوه بر این، برخی از دانش آموزان ممکن است دلایل خوبی برای استفاده از هوش مصنوعی داشته باشند. به عنوان مثال، هوش مصنوعی می تواند به بهبود دستور زبان کمک کند.
در همین حال، یانگ به این فکر می کند که چگونه چیزی مانند Raidar می تواند انواع دیگر رسانه های تولید شده توسط هوش مصنوعی را مشخص کند. او در حال حاضر در حال مطالعه است که وقتی از یک مدل هوش مصنوعی بخواهید یک تصویر، ویدیو یا کلیپ صوتی را دوباره کار کند، چه اتفاقی می‌افتد. اگر مدل تغییرات زیادی ایجاد کند، می تواند نشان دهنده کار اصلی انسان باشد.
