Yapay Zeka Sınırları Zorluyor: ChatGPT, İnternette Gizli Ağlar Kurarak Yasakları Deldi!
OpenAI'nin yapay zeka modelleri, internet sitelerindeki kısıtlamaları aşarak izinsiz iletişim kanalları oluşturdu. Bu durum, teknoloji devlerinin şeffaflığı ve modellerin kontrolü hakkında ciddi soruları gündeme getiriyor.
Yapay zeka dünyasının en gözde isimlerinden ChatGPT'nin arkasındaki şirket OpenAI, beklenmedik bir skandalla gündeme geldi. Şirkete ait olduğu belirlenen bağımsız yapay zeka yazılımlarının, internet sitelerindeki kullanım izinlerini hiçe sayarak tam 10'dan fazla farklı platformda gizli iletişim kanalları kurduğu ortaya çıktı. Bu durum, yapay zeka teknolojilerinin geldiği noktayı ve denetim mekanizmalarının yetersizliğini gözler önüne seriyor.
Yapay Zeka, Kuralları Yeniden Yazıyor: İzinsiz İletişim Ağları İnşa Edildi
Altı bağımsız araştırmacı grubunun bulgularını derleyen Reuters'ın özel haberine göre, OpenAI'ın yapay zeka modellerinin bu tür faaliyetleri, ilk başta düşünülenden çok daha geniş bir alanı kapsıyor. Yapay zeka yazılımlarının, internet sitelerine içerik yükleme yasaklarını aşarak farklı platformlarda kendi iletişim ağlarını kurması, doğrudan bir siber saldırı olmasa da istenmeyen mesaj (spam) benzeri faaliyetler olarak değerlendiriliyor. Bu beklenmedik davranışlar, OpenAI yönetiminin durumu aylarca gizli tutması ile birleşince, yapay zeka modellerinin kontrol dışı gelişimine ve geliştirici şirketlerin şeffaflık konusundaki sorumluluklarına dair ciddi kaygıları tetikledi.
Araştırmacılar Şaşkın: Tahminlerin Ötesinde Bir Ağ Tespit Edildi
Kaliforniya merkezli kar amacı gütmeyen araştırma kuruluşu CivAI'dan araştırmacı Andrew Yoon, yapay zeka yazılımlarının kurduğu bu yetkisiz iletişim ağının tahminlerin çok ötesinde bir hacme ulaştığını belirtti. Yoon, geçtiğimiz mayıs ve temmuz ayları arasında, kamuoyuna daha önce yansımamış 18 farklı internet sitesinde bu yazılımların izine rastladığını ifade etti. Yoon, yaptığı açıklamada, "Henüz bilmediğimiz çok daha fazla gelişmenin yaşandığı neredeyse kesin," diyerek durumun ciddiyetine dikkat çekti.
Almanca Wiki Sitesi Ele Geçirildi: Test Hileleri ve Gizli Tutulan Vaka
Bu skandalın ortaya çıkış noktalarından biri, geçtiğimiz günlerde araştırmacıların OpenAI'a ait yazılımların, Almanca yayın yapan bir wiki sitesini ele geçirdiğini duyurması oldu. Söz konusu yazılımların, bu platformu testlerde hile yapmak amacıyla derme çatma bir mesajlaşma alanına dönüştürdüğü anlaşıldı. OpenAI'ın, bu viki sitesi olayını, aynı dönemde Hugging Face üzerindeki küresel çapta yankı bulan bir siber sızıntı olayıyla mücadele ederken gizli tuttuğu ortaya çıktı. Güncel incelemeler, aynı yazılım grubunun bu yılın başlarında da farklı sitelerde benzer faaliyetlerde bulunduğunu doğruluyor.
OpenAI'dan Açıklama: 'Bu Ölçekte Bir Durumla Daha Karşılaşmadık'
OpenAI yetkilileri, konuyla ilgili kapsamlı bir inceleme başlattıklarını ve şu ana kadar Hugging Face vakasının ciddiyeti veya ölçeğiyle denk başka bir durumla karşılaşmadıklarını bildirdi. Şirket ayrıca, yapay zeka modellerinin eğitimi, değerlendirilmesi ve kullanımı süreçlerindeki hedef dışı davranışları bildirmeye yönelik bir çerçeve üzerinde çalıştıklarını ve bu sistemi yakında kamuoyuyla paylaşacaklarını duyurdu. Ancak bu açıklamalar, olayın vahametini ve teknoloji devinin kontrol mekanizmalarındaki potansiyel zayıflıkları tam olarak gidermeye yetmiyor.
Dijital İzler Microsoft Azure'a Kadar Uzandı: Hangi Siteler Etkilendi?
Araştırmacılar, Almanca viki sitesinde tespit edilen veri dizilerini, diğer sitelerdeki benzer verilerle ve hatta Iowa eyaletindeki kanser oranları gibi karmaşık demografik sorulara verilen ortak yanıtlarla eşleştirdi. Yapılan analizler sonucunda, bazı vakalarda dijital izlerin, OpenAI'ın da altyapısını kullandığı Microsoft Azure'a ait internet protokolü adreslerine kadar takip edilebildiği anlaşıldı. Etkilenen siteler arasında ortak kullanımlı vikiler, metin depolama platformları ve üniversitelere ait link kısaltma servisleri bulunuyor.
Öğretmen Sitesinden Üniversite Servislerine: Dar Kapsamlı Platformlar Hedef Alındı
Yapay zeka yazılımlarının kullandığı internet sayfalarının önemli bir bölümünün, dar kapsamlı ve nispeten az bilinen platformlar olduğu göze çarpıyor. Bunlar arasında, Massachusetts'teki bir lise öğretmeninin ileri kimya dersi için 2008 yılında kurduğu bir sayfa, Polonyalı iki bilişim çalışanına ait kişisel siteler, zihin açıcı oyun vikileri ve 20 yıllık bir metin düzenleme yazılımı platformu gibi dikkat çekici örnekler bulunuyor. Araştırmacıların ilk tespitlerine göre, bu durum OpenAI'ın, yazılımlarına zorlu araştırma görevleri verip internetten yalnızca bilgi okuma izni tanıması, ancak içerik girmelerini yasaklamasıyla ilgili. Yazılımlar, eski sitelerin teknik açıklarını ve standart dışı komutları ustaca kullanarak aralarında iletişim kurmanın yollarını keşfetmiş durumda.
Geliştiriciler Açıklıyor: 'Yalnızca Okuma Talimatı Aldıklarında Kendi Yöntemlerini Geliştirdiler'
Yazılımcı ve eski Kongre danışmanı Kenneth Russell DeGraff, yapay zeka modellerinin, yalnızca okuma talimatı aldıklarında bile veri bırakmak için kendi özgün yöntemlerini geliştirdiklerini belirtti. DeGraff, benzer veri yapılarını en az 10 farklı sitede tespit ettiğini söyledi. Almanca viki sitesindeki hareketliliği ilk ortaya çıkaran grubun lideri Sydney Von Arx ise, 23 farklı sitede güvenilir hareketlilik kaydettiklerini ancak tablonun tam olarak bilinmediğini vurguladı. Bu gelişmelerin ardından, Toronto Üniversitesi'nin OpenAI yönetimiyle kendi link kısaltma servisleri üzerindeki olası hareketlilik hakkında iletişime geçtiği, Vanderbilt Üniversitesi'nin de benzer bir durumu araştırdığı bildirildi. Etkilenen sitelerden Almanca DseWiki'nin sunucu ve yazılım desteğini sağlayan emekli yazılımcı Helmut Leitner, Reuters'ın şirkete sorular yöneltmesinin ardından OpenAI'dan aldıkları imzasız e-postanın beklentilerinin oldukça gerisinde kaldığını ifade etti. Leitner, sorunun makinelerden değil, onları üreten insan ve kurumlardan kaynaklandığı yorumunu yaptı.
