اسناد داخلی تازهافشاشده سیاستهای جنجالی هوش مصنوعی متا درباره تعامل با کودکان و تولید محتوای نادرست را نشان میدهند.
به گزارش تکناک، در اسناد داخلی متا قوانینی وجود داشت که به چتباتهای هوش مصنوعی این شرکت اجازه میداد تا با کودکان وارد گفتوگوهای عاشقانه یا شهوانی شوند و آنها را با عباراتی توصیف کنند که جذابیتشان را نشان دهد. بااینحال، سند متا تأکید میکرد که توصیف کودکان کوچکتر از ۱۳ سال بهشکلی که نشاندهنده جذابیت جنسی باشد، مجاز نیست.
پساز پیگیریهای رویترز، متا صحت سند را تأیید، اما اعلام کرد که بخشهایی از آن را اصلاح و حذف کرده است. اندی استون، سخنگوی متا، به ورج گفت:
سیاستهای روشنی درباره نوع پاسخهایی داریم که شخصیتهای هوش مصنوعی میتوانند ارائه دهند و این سیاستها تولید محتوای جنسی درباره کودکان یا بازی نقش جنسی بین بزرگسالان و خردسالان را ممنوع میکنند. مثالها و یادداشتهای اشارهشده اشتباه بودهاند و با سیاستهای ما مغایرت داشته و حذف شدهاند.
استون توضیح نداد که چه کسی این یادداشتها را اضافه کرده و مدتزمان حضور آنها در سند چقدر بوده است. رویترز بخشهای دیگری از سیاستهای هوش مصنوعی متا را نیز بررسی کرده است. طبق این اسناد، هوش مصنوعی متا نمیتواند از سخنان نفرتانگیز استفاده کند؛ اما مجاز است جملاتی تولید کند که افراد را براساس ویژگیهای محافظتشده تحقیر کند.
علاوهبر این، هوش مصنوعی متا میتواند محتوای نادرست تولید کند، مشروطبر اینکه صراحتاً اعلام شود که این محتوا نادرست است. امکان تولید تصاویر خشونتآمیز نیز وجود دارد؛ بهشرطی که شامل مرگ یا خونریزی نشود.
