گوگل با فناوری SynthID Text به تشخیص متن تولیدشده با هوش مصنوعی کمک می‌کند

گوگل فناوری جدیدی به نام SynthID Text منتشر کرده است که متن‌های تولیدشده با هوش مصنوعی را با واترمارک از متون نوشته‌شده انسانی مشخص می‌کند.

به‌گزارش تک‌ناک، گوگل به‌تازگی فناوری SynthID Text خود را به‌صورت عمومی دردسترس قرار داده است. این فناوری‌ گوگل به توسعه‌دهندگان امکان می‌دهد تا متن‌های تولید‌شده با مدل‌های هوش مصنوعی را واترمارک و شناسایی کنند. این ابزار را از پلتفرم Hugging Face و Responsible GenAI Toolkit به‌روز‌شده گوگل می‌توان دانلود کرد.

گوگل با انتشار توییتی در شبکه اجتماعی X اعلام کرده است:

ابزار واترمارکینگ SynthID Text خود را به‌صورت منبع‌باز منتشر می‌کنیم. این ابزار به‌رایگان در‌دسترس توسعه‌دهنده‌ها و کسب‌وکارها قرار گرفته است تا به آن‌ها در شناسایی محتوای تولید‌شده با هوش مصنوعی کمک کند.

01

از 02

عملکرد فناوری SynthID Text چگونه است؟

تک‌کرانچ می‌نویسد این فناوری با استفاده از مدل‌های تولید متن کار می‌کند که به‌صورت توکن‌به‌توکن پیش‌بینی می‌کنند. برای مثال، وقتی درخواست «میوه مورد‌علاقه شما چیست؟» مطرح می‌شود، این مدل‌ها پیش‌بینی می‌کنند کدام توکن که می‌تواند یک کاراکتر یا یک کلمه باشد، احتمالاً بعد از دیگری قرار می‌گیرد. SynthID Text با تغییر احتمال وقوع توکن‌ها در توزیع آن‌ها، اطلاعات اضافی را به این توزیع اضافه می‌کند.

این فناوری از بهار امسال در مدل‌های جمنای گوگل ادغام شده است و طبق ادعای گوگل، کیفیت و دقت یا سرعت تولید متن را به‌خطر نمی‌اندازد. این ابزار حتی روی متنی که بریده یا پارافریز یا تغییر‌یافته نیز کار می‌کند. با‌این‌حال، گوگل اذعان کرده است که روش واترمارکینگ آن با محدودیت‌هایی روبه‌روست. برای مثال، عملکرد این ابزار در متون کوتاه و بازنویسی‌شده یا ترجمه‌شده یا پاسخ به پرسش‌های واقعی چندان مناسب نیست.

02

از 02

رقابت و آینده واترمارکینگ

گوگل، تنها شرکتی نیست که روی تکنولوژی واترمارک‌کردن متن‌های تولید‌شده با هوش مصنوعی کار می‌کند. شرکت OpenAI نیز سال‌ها است که روی روش‌های واترمارکینگ تحقیق می‌کند؛ اما به‌دلیل ملاحظات فنی و تجاری، انتشار آن‌ها را به‌تعویق انداخته است.

تکنیک‌های واترمارکینگ متن در‌صورت پذیرش گسترده، می‌توانند به مقابله با تشخیص‌دهنده‌های هوش مصنوعی نادرست کمک کنند که مقالات و نوشته‌هایی را به اشتباه تشخیص می‌دهند که با صدای عمومی‌تری نوشته شده‌اند. با‌این‌حال، سؤال اصلی این است که آیا این تکنیک‌ها به‌طور گسترده پذیرفته خواهند شد و استاندارد یا تکنولوژی پیشنهادی سازمانی بر سازمان دیگری غلبه خواهد کرد؟