ابزار تشخیص متون هوش مصنوعی ساخته شد

شرکت OpenAI، شرکت سازنده DALL-E و ChatGPT، با انتشار ابزار رایگانی برای تمایز بین متون نوشته شده توسط انسان و هوش مصنوعی، درباره قابل اعتماد نبودن آن در حال حاضر و عدم استفاده از آن به عنوان ابزار تصمیم گیری اولیه هشدار داد.

به گزارش تکناک، طبق گفته OpenAI، این ابزار برای تشخیص متن تولیدی توسط هوش مصنوعی از متون تولید شده توسط شخص، می تواند مفید باشد.

روش استفاده از این ابزار با عنوان The classifier نسبتاً ساده است، و تنها باید یک حساب OpenAI رایگان داشت. برای استفاده از آن تنها متن را در یک کادر قرار می دهید، روی یک دکمه کلیک می کنید و سپس میزان شباهت متن به یک متن تولید شده توسط هوش مصنوعی را با درجه بندیvery unlikely (اصلا و ابدا)، unlikely (بعید)، unclear if it is (نامشخص)، possibly (وجود شباهت) یا likely (شباهت زیاد) مشخص می‌کند.

OpenAI در بیانیه مطبوعاتی خود گفت: این مدل با استفاده از ” جفت‌های متون نوشته شده توسط انسان و هوش مصنوعی در یک موضوع” آموزش داده شده است.

با این حال، هشدارهای زیادی در مورد استفاده از این ابزار می دهد. در بالای جعبه متن، شرکت به برخی از محدودیت‌ها اشاره می‌کند:

حداقل به 1000 کاراکتر، تقریباً معادل 150 تا 250 کلمه نیاز دارد.
The classifier همیشه دقیق نیست و ممکن است متون تولید شده توسط هوش مصنوعی (Artificial Intelligence : field of computer science and engineering practices for intelligence demonstrated by machines and intelligent agents) و انسان را اشتباه برچسب گذاری کند.
متن تولیدی توسط هوش مصنوعی را می توان به راحتی به صورتی که توسط The classifier قابل شناسایی نباشد، ویرایش کرد.
احتمالاً The classifier در مورد شناسایی متون نوشته شده توسط کودکان یا به زبان غیر از انگلیسی خطا خواهد داشت، زیرا اساساً بر اساس محتوای انگلیسی نوشته شده توسط بزرگسالان آموزش دیده است.

این شرکت همچنین گفت در برخی مواقع متن نوشته‌شده توسط انسان را به نادرست اما با اطمینان به خصوص در صورت وجود تفاوت زیاد با داده‌های آموزشی خود به‌عنوان متن تولیدی توسط هوش مصنوعی برچسب‌گذاری می‌کند. این مساله نشان‌دهنده عدم تکامل The classifier است.

این اخطارها موجه به نظر می رسند. با بررسی برخی از مقالات نوشته شده توسط CNET Money در برخی موارد یک نتیجه “unclear” ارائه کرد، و برخی دیگر را ” unlikely” عنوان کرد. به گفته این نشریه این مقالات «با کمک یک موتور هوش مصنوعی نوشته، و سپس توسط کارکنان ویرایش شده‌اند»، بنابراین احتمالاً برخی از تغییرات انسانی در آنها وجود دارد. به گزارش میا ساتو این نشریه از ابزاری به نام Wordsmith برای برخی از محتوای خود استفاده می کند. OpenAI می‌گوید ابزارش تنها برای شناسایی متون تولید‌شده توسط GPT طراحی نشده‌است و باید «متون نوشته شده توسط هوش مصنوعی دیگر سیستم‌ها» را نیز شناسایی کند.

این نتایج به معنی عدم کارایی این ابزار OpenAI نیست و اکثر متون تولید‌شده توسط ChatGPT را به‌عنوان «possibly» یا «likely» علامت‌گذاری می‌کند. OpenAI همچنین در آزمایش‌های خود می‌گوید این ابزار در ۲۶ درصد مواقع، متن نوشته‌شده با هوش مصنوعی را به‌عنوان likely AI-generated» برچسب‌گذاری می‌کند و در ۹ درصد مواقع به اشتباه متون را به عنوان تولید‌شده توسط هوش مصنوعی طبقه‌بندی می‌کند. همچنین این ابزار در تشخیص متون تولید شده توسط ChatGPT بهتر عمل می‌کند.

OpenAI اولین شرکت ارائه دهنده ابزاری برای تمایز متون ایجاد شده توسط هوش مصنوعی ChatGPT نیست. تقریباً بلافاصله پس از محبوبیت این ربات چت، سایت هایی مانند GPTZero که توسط دانش آموزی به نام ادوارد تیان برای “تشخیص سرقت ادبی هوش مصنوعی” ساخته شده بود، شروع به کار کردند.

یکی از حوزه‌های تشخیص مورد نظر OpenAI توسط این فناوری حوزه آموزش است. طبق بیانیه مطبوعاتی آن «شناسایی متن نوشته شده با هوش مصنوعی یکی از موضوعات مهم مورد بحث در بین معلمان بوده است»، و مدارس مختلف، واکنش‌های متفاوتی به شکل ممنوعیت یا پذیرش ChatGPT داشته‌اند. این شرکت می‌گوید «در حال تعامل با مربیان در ایالات متحده» است تا بفهمد دیدگاه آنها نسبت به ChatGPT چیست و خواهان اطلاع از بازخورد همه افراد درگیر است.