اوپن‌ای‌آی ابزاری برای شناسایی متنهای تولیدشده توسط چت‌جی‌پی‌تی توسعه می‌دهد
اوپن‌ای‌آی ابزاری ساخته است که می‌تواند تکالیف یا هر متن دیگری را شناسایی کند که با چت‌جی‌پی‌تی و به خواست دانش‌آموزان نوشته شده باشد. به گزارش وال استریت ژورنال، این شرکت در حال بررسی است که آیا واقعا این ابزار را منتشر کند یا خیر.
سخن‌گوی اوپن‌ای‌آی تایید کرده است که شرکت در حال تحقیق روی روش واترمارک‌گذاری متن است، اما به دلیل پیچیدگی‌های موجود و تأثیر احتمالی بر اکوسیستم گسترده فرا‌تر از خود اوپن‌ای‌آی، رویکردی محتاطانه در پیش گرفته است.
سخن‌گوی شرکت افزود روش واترمارک‌گذاری متنی که ما در حال گسترش آن هستیم از نظر فنی کارکرد قابل قبولی دارد، اما در این راه مشکلات و تهدیداتی وجود دارد که در حال بررسی آن‌ها هستیم. واترمارک‌گذاری متن می‌تواند برای کاربرانی که از زبانی بجز زبان انگلیسی بهره می‌برند، مشکل‌ساز باشد.
روش جدید واترمارک‌گذاری متنی از اکثر تلاش‌های قبلی برای تشخیص متنهای تولیدشده توسط هوش مصنوعی که دقت زیادی نداشتند، متفاوت خواهد بود. حتی خود اوپن‌ای‌آی نیز سال گذشته ردیاب متن هوش مصنوعی قبلی خود را به دلیل دقت پایین از کار انداخت.
با روش تازه واترمارک‌گذاری، اوپن‌ای‌آی تنها روی تشخیص متنهای نوشته شده توسط چت‌جی‌پی‌تی تمرکز خواهد کرد، نه مدل‌های زبانی دیگر. این کار با ایجاد تغییرات کوچک در نحوه انتخاب کلمات توسط چت‌جی‌پی‌تی انجام می‌شود و در واقع یک واترمارک نامرئی در متن شکل می‌دهد که بعدا می‌تواند توسط یک ابزار جداگانه تشخیص داده شود.
آخرین مطالب
- تحلیل عملکرد حرارتی مکبوک پرو M۵: پیشرفت چشمگیر نسبت به نسل M۴
- کاوازاکی نینجا ZX-۶R ۲۰۲۵: بررسی کامل سوپراسپرت ۶۰۰ سیسی پرقدرت
- اینفوگرافی چیست؟ راهنمای جامع انواع، مزایا و مراحل ساخت اینفوگرافیک حرفهای
- استراتژی برای نفوذ در اکوسیستم اپل با خرید اپلیکیشن
- کشف سه سیاره زمینسان با دو غروب خورشید در منظومه TOI-۲۲۶۷
اوپن‌ای‌آی اخیرا با انتشار پس‌تی، رویکرد خود را در مواجهه با تشخیص محتوای تولیدشده توسط هوش مصنوعی به‌روزرسانی کرد. مطابق با اظهارات جدید اوپن‌ای‌آی، روش واترمارک‌گذاری تازه در برابر دستکاری‌های موضعی همانند تغییر پاراگراف موثر است.
اوپن‌ای‌آی ادعا می‌کند روش جدید واترمارک‌گذاری متن حتی می‌تواند با وجود دستکاری‌هایی همانند سیستم‌های ترجمه و باز‌نویسی با دیگر مدل‌های مولد، متن ساخته شده توسط هوش مصنوعی را تشخیص دهد.