تقلب با هوش مصنوعی؛ خالق ChatGPT مچ دانشجوهای متقلب را می‌گیرد؟_مجله رشد

OpenAI ابزاری ساخته است که می‌تواند تکالیف یا هر متن فرد دیگر را شناسایی کند که با ChatGPT و به خواست دانش‌آموزان نوشته شده است. به‌حرف های‌ی وال استریت ژورنال، این شرکت در حال بازدید این نوشته است که آیا واقعاً آن را انتشار کند یا خیر.

سخن‌گوی OpenAI تایید کرده است که این شرکت در حال تحقیق روی روش واترمارک گذاری متن است، اما به علت پیچیدگی‌های حاضر و تاثییر احتمالی آن بر اکوسیستم گسترده فراتر از خود OpenAI، رویکردی محتاطانه در پیش گرفته است.

سخنگوی OpenAI افزود: «روش واترمارک گذاری متنی که ما در حال گسترش‌ی آن هستیم از نظر فنی کارکرد قابل قبولی دارد اما در این راه مشکلات و تهدیداتی وجود دارد که در حال بازدید آن هستیم. واترمارک گذاری متن می‌تواند برای کاربرانی که از زبانی بجز زبان انگلیسی منفعت گیری می‌کنند، مشکل‌ساز باشد.»

روش واترمارک گذاری متنی تازه از اکثر کوششهای قبلی برای تشخیص متن تشکیل شده (که کارکرد زیاد دقیقی نداشتند) توسط هوش مصنوعی متفاوت خواهد می بود. حتی خود OpenAI نیز سال قبل ردیاب متن هوش مصنوعی قبلی خود را به علت دقت پایین از کار انداخت.

با روش تازه واترمارک گذاری متن، OpenAI فقطً روی تشخیص متن‌های نوشته شده توسط ChatGPT تمرکز خواهد کرد، نه مدل‌های زبانی دیگر. این کار با تشکیل تغییرات کوچک در نحوه انتخاب کلمات توسط ChatGPT انجام می‌بشود و در واقع یک واترمارک نامرئی در متن تشکیل می‌کند که بعداً می‌تواند توسط یک ابزار جداگانه تشخیص داده بشود.

OpenAI به تازگی با انتشار کردن پستی رویکرد خود را در روبه رو تشخیص محتوای تشکیل شده توسط هوش مصنوعی به‌روز کرد. مطابق حرف های‌های تازه OpenAI، روش واترمارک‌گذاری تازه در برابر دستکاری‌های موضعی همانند تحول پاراگراف موثر است.

OpenAI ادعا می‌کند روش تازه واترمارک گذاری متن حتی می‌تواند باوجود دستکاری‌هایی همانند سیستم‌ها ترجمه و بازنویسی با دیگر مدل‌های مولد، متن ساخته شده توسط هوش مصنوعی را تشخیص دهد.