آیا OpenAI مسئول آن چیزی است که چت ربات هوش مصنوعی محبوب خود، ChatGPT، می گوید؟ یک شکایت جدید علیه این شرکت که توسط یک مجری رادیویی مستقر در گرجستان تنظیم شده است، استدلال می کند که این شرکت است.

مارک والترز، مجری رادیو آمریکای مسلح، اوایل این هفته علیه OpenAI به دلیل افترا شکایت کرد و اولین مورد از این دست در هوش مصنوعی بود. بلومبرگ.

پس چه اتفاقی افتاد؟ مطابق با شکایتفرد ریهل، سردبیر نشریه اسلحه سازی AmmoLand، در حال تحقیق برای مقاله ای در مورد پرونده دادگاه فدرال واشنگتن، بنیاد متمم دوم علیه فرگوسن بود.

هنگامی که ریل از ChatGPT خواست تا خلاصه ای از پرونده را ارائه کند، ChatGPT با اطلاعاتی در مورد والترز پاسخ داد که به گفته ربات چت هوش مصنوعی، خزانه دار و مدیر ارشد مالی بنیاد اصلاحیه دوم است. بر اساس شکایت والترز، ChatGPT به Riehl گفت که والترز درگیر “کلاهبرداری و اختلاس وجوه” از سازمانی است که گفته است در آن کار می کند.

در این دادخواست آمده است که طبق ChatGPT، والترز “وجوهی را برای هزینه های شخصی بدون مجوز یا بازپرداخت اختلاس کرده، سوابق مالی و صورت های بانکی را برای پنهان کردن فعالیت های خود دستکاری کرده و گزارش های مالی و افشای دقیق و به موقع را به رهبری SAF ارائه نکرده است.”

یک مشکل: هر آنچه که ChatGPT گفته می‌شود به رایل در مورد این پرونده گفته و والترز کاملاً ساختگی بوده است. والترز از بنیاد متمم دوم کلاهبرداری یا اختلاس نکرد. در واقع، والترز هرگز برای این سازمان کار نکرده است. را بنیاد متمم دوم علیه فرگوسن این پرونده حتی در مورد کلاهبرداری مالی نیست، بلکه شکایتی است که توسط گروه اسلحه علیه دادستان کل باب فرگوسن در مورد قوانین اسلحه در ایالت واشنگتن تنظیم شده است. مانند Gizmodo اشاره می‌کند، والترز در هیچ کجای دادخواست 30 صفحه‌ای از بنیاد متمم دوم ذکر نشده است.

همچنین ببینید: یک وکیل از ChatGPT برای تشکیل پرونده قانونی استفاده کرد. ربات چت مواردی را ذکر کرده است که به تازگی ساخته شده است

وقتی Riehl در آن زمان از ChatGPT خواست تا آنچه را که چت ربات هوش مصنوعی در مورد پرونده دادگاه و والترز می گوید تأیید کند، اصرار داشت که اطلاعات صحیح است. ChatGPT حتی با آنچه گفته بود “بند از شکایت مربوط به والترز” بازگشت. ChatGPT به نقل از یک پاراگراف کاملا ساختگی ادامه داد که در هیچ کجای پرونده واقعی بنیاد متمم دوم علیه فرگوسن وجود ندارد. چت ربات هوش مصنوعی حتی یک “شماره مورد اشتباه” را ذکر کرد.

Riehl به انتشار یک قطعه بر اساس اطلاعات ChatGPT پایان نداد. با این حال، والترز هنوز این شکایت را علیه OpenAI تنظیم کرده و به دنبال “خسارت تنبیهی به میزانی است که در محاکمه تعیین شود.”

در حالی که والترز ممکن است اولین کسی باشد که “توهمات هوش مصنوعی” را به دادگاه ارائه می کند، روند تولید اطلاعات نادرست هوش مصنوعی احتمالاً در آینده نزدیک منجر به موارد بیشتری از این دست خواهد شد. یک شهردار استرالیایی تهدید کرد برای شکایت از OpenAI در ماه آوریل پس از اینکه ChatGPT ادعا کرد که او یک جنایتکار محکوم در یک رسوایی رشوه است در حالی که در واقع او افشاگر پرونده بود.