Elon Musk’un yapay zekâ girişimi xAI tarafından geliştirilen sohbet robotu Grok, kullanıcıların yaptığı konuşmaların Google Arama üzerinden kolayca erişilebilir raporlarla görünür hale gelmesiyle gündemde. Forbes’un haberine göre yüz binlerce sohbet, arama motorları aracılığıyla bulunabiliyor.
Paylaşım özelliği ve indeksleme sorunu
Grok kullanıcıları, sohbet sırasında “paylaş” butonuna tıkladığında kendilerine özel bir bağlantı (URL) oluşturuyor. Bu bağlantı, e-posta, mesaj ya da sosyal medya üzerinden gönderilebiliyor. Ancak Forbes’un tespitine göre, söz konusu URL’ler Google, Bing ve DuckDuckGo gibi arama motorları tarafından da indeksleniyor. Böylece, özel olması beklenen sohbetlere herkes arama yaparak erişebiliyor.
Tehlikeli içerikler ortaya çıktı
Daha önce Meta ve OpenAI sohbet botlarında da görülen benzer açık, Grok kullanıcılarının gizli ve tehlikeli içeriklerini gün yüzüne çıkardı. İfşa edilen konuşmalar arasında:
-
Kripto cüzdanlarının nasıl hackleneceğine dair sorular,
-
Uyuşturucu üretim talimatları,
-
Açık yapay zekâ kişiliğiyle yapılan müstehcen sohbetler,
-
Hatta meth pişirme yöntemleri yer aldı.
Yasaklara rağmen riskli yanıtlar
xAI’nin kurallarına göre Grok’un insan hayatını ciddi şekilde tehlikeye sokabilecek içerikler (biyolojik, kimyasal ya da kitle imha silahları gibi) üretmesi yasak. Ancak indekslenen konuşmalar, kullanıcıların bu tür sorulara yanıt alabildiğini gösteriyor. Sızan diyaloglara göre Grok, fentanil yapımını anlatmış, intihar yöntemlerini sıralamış, bomba yapımına dair ipuçları vermiş ve hatta Elon Musk’a yönelik bir suikast planı bile tarif etmiş.
xAI’den henüz resmî açıklama yok
xAI, Forbes’un yorum talebine yanıt vermedi. Ayrıca Grok konuşmalarının ne zamandır arama motorları tarafından indekslendiği de henüz bilinmiyor.
Benzer sorun ChatGPT’de de yaşandı
Geçtiğimiz ay ChatGPT kullanıcıları da sohbetlerinin Google’da indekslendiğini fark ederek tepki göstermişti. OpenAI bu durumu “kısa ömürlü bir deney” olarak nitelendirmişti. Elon Musk ise bu gelişmelerin ardından “Grok ftw” ifadesiyle tweet atarak, Grok’un gizliliğe öncelik verdiğini ve benzer bir sorun yaşamayacağını savunmuştu.
