ChatGPT üreticisi, ABD'li düzenleyiciler tarafından yapay zeka riskleri nedeniyle araştırılıyor

Ücretsiz Yapay zeka güncellemeleri alın

Yapay zekaya sahip sohbet robotlarının oluşturduğu riskler, Federal Ticaret Komisyonu’nun ChatGPT üreticisi OpenAI hakkında geniş kapsamlı bir soruşturma başlatmasının ardından ilk kez ABD düzenleyicileri tarafından resmi olarak araştırılıyor.

Microsoft destekli şirkete gönderilen bir mektupta FTC, insanların yapay zeka sohbet robotunun kendileri hakkında yanlış bilgi oluşturmasından zarar görüp görmediğinin yanı sıra OpenAI’nin “haksız veya aldatıcı” gizlilik ve verilerle meşgul olup olmadığına bakacağını söyledi. güvenlik uygulamaları.

Yapay zeka uzmanları ve etik uzmanları, teknolojinin tükettiği muazzam miktardaki kişisel verilerin yanı sıra yanlış bilgilendirmeden cinsiyetçi ve ırkçı yorumlara kadar potansiyel olarak zararlı çıktıları konusunda uyarıda bulunduğundan, üretken yapay zeka ürünleri dünyanın dört bir yanındaki düzenleyicilerin hedefinde.

Mayıs ayında FTC, “şirketlerin yeni üretken AI araçları da dahil olmak üzere AI teknolojisini tüketiciler üzerinde gerçek ve önemli bir etkiye sahip olabilecek şekillerde nasıl kullanmayı seçebileceklerine yoğun bir şekilde odaklandığını” söyleyerek sektöre bir uyarı atışı yaptı.

ABD’li düzenleyici, mektubunda OpenAI’den grubun kullanıcı bilgilerini nasıl tuttuğundan şirketin modelinin “yanlış, yanıltıcı veya aşağılayıcı” ifadeler üretme riskini ele almak için attığı adımlara kadar çeşitli dahili materyalleri paylaşmasını istedi.

FTC, ilk olarak The Washington Post tarafından bildirilen mektup hakkında yorum yapmaktan kaçındı. Perşembe günü daha sonra Twitter’da yazan OpenAI CEO’su Sam Altman aradı “FTC’nin talebinin bir sızıntıyla başladığını ve güven oluşturmaya yardımcı olmadığını görmek çok hayal kırıklığı yaratıyor”. “Teknolojimizin güvenli ve tüketici yanlısı olması bizim için çok önemli ve yasalara uyduğumuzdan eminiz. Elbette FTC ile çalışacağız.”

FTC başkanı Lina Khan, Perşembe sabahı Meclis yargı komitesi önünde ifade verdi ve sert uygulama duruşu nedeniyle Cumhuriyetçi milletvekillerinden sert eleştiriler aldı.

Duruşma sırasında soruşturma sorulduğunda, Khan soruşturma hakkında yorum yapmaktan kaçındı, ancak düzenleyicinin daha geniş endişelerinin ChatGPT ve diğer AI hizmetlerinin “çok büyük bir veri hazinesi ile beslenmesi” ve “ne tür verilerin kontrol edilmediği” olduğunu söyledi. bu şirketlere sokuldu”.

Şunları ekledi: “Başka birinden gelen bir soruşturmaya yanıt olarak insanların hassas bilgilerinin ortaya çıktığına dair raporlar duyduk. Ortaya çıkan iftira, karalayıcı ifadeler, kesinlikle doğru olmayan şeyler hakkında bir şeyler duyduk. Endişelendiğimiz dolandırıcılık ve aldatma türü bu.”

FTC’nin bu hafta Microsoft’un Activision Blizzard’ı 75 milyar dolara satın almasını engelleme girişiminde büyük bir yenilgiye uğramasının ardından Khan, mahkemedeki karışık sicili hakkında milletvekillerinin sorularıyla doluydu. FTC Perşembe günü karara itiraz etti.

Bu arada, komite başkanı Cumhuriyetçi Jim Jordan, şirketin bir mahkemede FTC’nin geçen yıl dayattığı bir rıza emrini uygularken “düzensiz ve uygunsuz” davranışlarda bulunduğunu iddia etmesi üzerine Khan’ı Twitter’ı “taciz etmekle” suçladı.

Khan, Twitter’ın başvurusu hakkında yorum yapmadı, ancak FTC’nin umursadığı tek şeyin “şirketin yasalara uyması” olduğunu söyledi.

Uzmanlar, ChatGPT’nin arkasındaki dil modelleri tarafından toplanan büyük hacimli verilerden endişe duyuyorlar. OpenAI, lansmanından iki ay sonra aylık 100 milyondan fazla aktif kullanıcıya sahipti. Microsoft’un yine OpenAI teknolojisiyle çalışan yeni Bing arama motoru, Ocak ayında piyasaya sürülmesinden sonraki iki hafta içinde 169 ülkede 1 milyondan fazla kişi tarafından kullanılıyordu.

Kullanıcılar, ChatGPT’nin uydurma isimler, tarihler ve gerçeklerin yanı sıra haber sitelerine sahte bağlantılar ve akademik makalelere referanslar verdiğini bildirdi; bu, sektörde “halüsinasyonlar” olarak bilinen bir sorundur.

FTC’nin soruşturması, şirketin halüsinasyonları düzeltme çalışmaları ve tüketicileri doğrudan etkileyen insan yorumcularının gözetimi dahil olmak üzere ChatGPT’nin nasıl tasarlandığına dair teknik ayrıntıları araştırıyor. Ayrıca, tüketici şikayetleri ve şirketin, tüketicilerin chatbot’un doğruluğu ve güvenilirliği konusundaki anlayışını değerlendirmek için gösterdiği çabalar hakkında bilgi istedi.

Mart ayında, İtalya’nın gizlilik gözlemcisi, diğer sorunların yanı sıra, ABD şirketinin bir siber güvenlik ihlalinin ardından kişisel bilgileri toplamasını incelerken ChatGPT’yi geçici olarak yasakladı. Birkaç hafta sonra, OpenAI gizlilik politikasını daha erişilebilir hale getirdikten ve kullanıcıların yaşlarını doğrulamak için bir araç sunduktan sonra eski durumuna getirildi.

ChatGPT’nin yanılabilirliğiyle ilgili daha önceki itirafları yineleyen Altman, tweet attı: “Teknolojimizin sınırlamaları konusunda şeffafız, özellikle yetersiz kaldığımızda. Ve sınırlı kar yapımız, sınırsız getiri elde etmek için teşvik edilmediğimiz anlamına geliyor.” Ancak, chatbot’un “yıllarca süren güvenlik araştırmaları” üzerine inşa edildiğini söyleyerek şunları ekledi: “Kullanıcı gizliliğini koruyoruz ve sistemlerimizi özel bireyleri değil, dünyayı öğrenmek için tasarlıyoruz.”