OpenAI طراح های واترمارک ChatGPT را حذف می کند
OpenAI با استناد به مقاومت کاربران و چالش های فنی، طرح های واترمارک ChatGPT را کنار می گذارد. این شرکت اکنون در حال بررسی روش های جایگزین است.
- OpenAI به دلیل نگرانی های کاربر و محدودیت های فنی، واترمارک ChatGPT را کنار گذاشت.
- تقریباً 30٪ از کاربران گفتند که اگر واترمارکینگ اجرا شود، کمتر از ChatGPT استفاده می کنند.
- OpenAI اکنون در حال بررسی روش های جایگزین مانند جاسازی ابرداده برای شناسایی محتوای هوش مصنوعی است.
OpenAI تصمیم گرفته است از اجرای واترمارکینگ متن برای محتوای تولید شده توسط چت جی پی تی با وجود داشتن فناوری برای نزدیک به یک سال، جلوگیری کند. این تصمیم که توسط وال استریت ژورنال گزارش شده و در به‌روزرسانی اخیر پست وبلاگ OpenAI تأیید شده است، ناشی از نگرانی‌های کاربر و چالش‌های فنی است.
سیستم واترمارکینگ متن OpenAI که برای تغییر نامحسوس الگوهای پیش‌بینی کلمات در متن تولید شده توسط هوش مصنوعی طراحی شده است، نوید دقت تقریباً کامل را می‌دهد.
اسناد داخلی که توسط وال استریت ژورنال استناد شده است، ادعا می کنند که “99.9٪ موثر” بوده و در برابر ترجمه ساده مقاوم است.
با این حال، OpenAI نشان داده است که روش‌های پیچیده‌تر دستکاری، مانند استفاده از مدل هوش مصنوعی دیگر برای بازنویسی، می‌تواند به راحتی این حفاظت را دور بزند.
یک نظرسنجی شرکت نشان داد که در حالی که پشتیبانی جهانی از ابزارهای تشخیص هوش مصنوعی قوی بود، تقریبا 30 درصد از کاربران ChatGPT گفتند که در صورت اجرای واترمارک، کمتر از این سرویس استفاده خواهند کرد. این یک ریسک قابل توجه برای شرکتی است که به سرعت پایگاه کاربر و پیشنهادات تجاری خود را گسترش می دهد.
OpenAI همچنین در مورد پیامدهای ناخواسته، به ویژه انگ بالقوه ابزارهای هوش مصنوعی برای غیر انگلیسی زبانان ابراز نگرانی کرد. به جای کنار گذاشتن کامل این مفهوم، OpenAI اکنون در حال بررسی روش‌های بالقوه «کمتر بحث‌برانگیز» است.
این خبر ممکن است برای بسیاری از بازاریابان و تولیدکنندگان محتوا که ChatGPT را در جریان کاری خود ادغام کرده‌اند، آرامش بخش باشد. عدم وجود واترمارک به معنای انعطاف بیشتر در نحوه استفاده و اصلاح محتوای تولید شده توسط هوش مصنوعی است. با این حال، این بدان معناست که ملاحظات اخلاقی در مورد ایجاد محتوای به کمک هوش مصنوعی تا حد زیادی در دست کاربران باقی می‌ماند.
با رونق گرفتن محتوای هوش مصنوعی، صنعت به راه‌های جدیدی برای مقابله با مسائل مربوط به اصالت نیاز دارد. در حال حاضر، مسئولیت استفاده از هوش مصنوعی اخلاقی بر عهده کاربران و شرکت ها است.
در اینجا انتظار نوآوری بیشتری داشته باشید، از OpenAI یا دیگران. یافتن نقطه ای شیرین بین اخلاق و قابلیت استفاده همچنان یک چالش کلیدی در بازی محتوای هوش مصنوعی است.