ابزاری برای تشخیص متن تولید شده توسط هوش مصنوعی از جمله ChatGPT

شرکت OpenAI ابزاری را راه اندازی کرده است که تلاش می‌کند بین متن نوشته شده توسط انسان و متن تولید شده توسط هوش مصنوعی تمایز قائل شود. به عنوان مثال متن هوش مصنوعی می‌توان به بات ChatGPT اشاره کرد.

هدف ابزار تشخیص متن محتوای هوش مصنوعی کمک به کاهش ادعاهای نادرست مبنی بر اینکه متن تولید شده توسط بات ها توسط یک انسان نوشته شده است، می‌باشد. یک سخنگوی OpenAI از طریق ایمیل به وب سایت TechCrunch گفت:

با این حال، این ابزار هنوز تعدادی محدودیت دارد؛ بنابراین باید به عنوان مکملی برای روش های دیگر تعیین منبع متن به جای ابزار تصمیم گیری اولیه استفاده شود. ما این ابزار اولیه را برای دریافت بازخورد در مورد مفید بودن ابزارهایی مانند این در دسترس قرار می‌دهیم و امیدواریم بتوانیم روش‌های بهبود یافته را در آینده به اشتراک بگذاریم.

با افزایش شور و شوق ایجاد شده برای ابزارهای هوش مصنوعی تولید کننده متن، منتقدان از سازندگان این ابزارها خواسته اند تا اقداماتی را برای کاهش اثرات مضر بالقوه آنها انجام دهند.سایت‌هایی از جمله Stack Overflow کاربران را از اشتراک‌گذاری محتوای تولید شده توسط ChatGPT منع کرده‌اند و می‌گویند که هوش مصنوعی باعث می‌شود تا کاربران بتوانند موضوعات بحث را با پاسخ‌های مشکوک پر کنند.

اهمیت تولید محتوا برای کسب‌و‌کارها

ابزار تشخیص محتوای هوش مصنوعی OpenAI که AI Text Classifier نامیده می‌شود، از نظر معماری جذاب است. این ابزار، مانند ChatGPT، یک مدل زبان هوش مصنوعی است تا پیش‌بینی کند که چقدر احتمال دارد که یک قطعه متن توسط هوش مصنوعی تولید شده باشد.

مهمتر از همه ابزار تشخیص محتوای ربات ها، OpenAI Text Classifier حداقل به 1000 کاراکتر یا حدود 150 تا 250 کلمه نیاز دارد وگرنه سرقت ادبی را تشخیص نمی‌دهد.

بسته به سطح اطمینان متن پس از تشخیص توسط این ابزار به چند دسته تقسیم می‌شود: