واترمارک ChatGPT چگونه کار میکند؟
بر اساس خبرها یک واترمارک رمزنگاری تحت عنوان واترمارک ChatGPT در راه است که تشخیص محتوای تولید شده توسط ChatGPT را آسان میکند. ChatGPT ابزاری باورنکردنی است که ناشران آنلاین وبلاگ ها، تولید کنندگان محتوا و سئوکاران به طور همزمان آن را دوست دارند و هم از آن میترسند.
برخی از بازاریابان آن را دوست دارند زیرا در حال کشف راه های جدیدی برای استفاده از آن برای تولید خلاصه محتوا، طرح کلی و مقالات پیچیده هستند. ناشران آنلاین از احتمال هجوم محتوای هوش مصنوعی به نتایج جستجو و جایگزینی مقالات تخصصی نوشته شده توسط انسان میترسند.
در نتیجه، اخبار مربوط به ویژگی واترمارک ChatGPT که تشخیص محتوای نوشته شده توسط ChatGPT را امکان پذیر میکند نیز با نگرانی و امید پیش بینی میشود.
واترمارک یک علامت نیمه شفاف (آرم یا متن) است که بر روی یک تصویر تعبیه شده است. واترمارک نشان می دهد که نویسنده اصلی اثر کیست. تا حد زیادی در عکس ها و به طور فزاینده ای در فیلم ها دیده میشود.
واترمارک کردن متن در ChatGPT شامل رمزنگاری در قالب جاسازی الگوی کلمات، حروف و نقطه گذاری در قالب یک کد مخفی است.
یک دانشمند کامپیوتر با نفوذ به نام اسکات آرونسون در ژوئن 2022 توسط OpenAI استخدام شد تا روی ایمنی و تراز هوش مصنوعی کار کند. آرونسون دلیل واترمارک کردن خروجی ChatGPT را توضیح داد:
بدیهی است که این میتواند برای جلوگیری از سرقت علمی آکادمیک مفید باشد، اما به عنوان مثال، تولید انبوه تبلیغات…
دلیل استفاده از واترمارک ChatGPT
واترمارک ChatGPT سیستمی است که یک الگوی آماری، یک کد را در انتخاب کلمات و حتی علائم نگارشی جاسازی میکند. محتوای ایجاد شده توسط هوش مصنوعی با الگوی نسبتاً قابل پیش بینی انتخاب کلمه تولید میشود.
کلمات نوشته شده توسط انسان و هوش مصنوعی از یک الگوی آماری پیروی میکنند. تغییر الگوی کلمات مورد استفاده در محتوای تولید شده راهی برای واترمارک کردن متن است تا تشخیص دهد که آیا این متن محصول یک تولید کننده متن هوش مصنوعی بوده است یا خیر.
ترفندی که واترمارک کردن محتوای هوش مصنوعی را غیرقابل تشخیص میکند این است که توزیع کلمات همچنان ظاهری تصادفی شبیه به متن معمولی تولید شده توسط هوش مصنوعی دارد.