Turing Ödülü sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen yapay zeka laboratuvarlarının “Yapay zekayı daha akıllı hale getirmeye odaklandığını, ancak güvenlik konusunda yeterince araştırma ve yatırım yapmadığını” belirtti.
30 Milyon Dolar Destek Aldı
Bengio, yapay zeka güvenliği alanında faaliyet gösterecek yeni bir kar amacı gütmeyen kuruluş olan LawZero’yu kurduğunu açıkladı. Bu kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır girişimi, Open Philanthropy ve Future of Life Institute gibi bağışçılardan yaklaşık 30 milyon dolar destek aldı.
LawZero, insanları memnun etmek yerine doğru ve şeffaf gerekçelerle yanıt veren, aynı zamanda çıktının güvenli olup olmadığını değerlendirebilen yeni nesil güvenli yapay zeka sistemleri geliştirmeyi hedefliyor. Kuruluş, şu anda 15 kişilik bir ekipten oluşuyor ve teknik kapasitesini artırmak için yeni personel alımları yapmayı planlıyor.
Bengio, LawZero’ya tam zamanlı odaklanmak amacıyla Quebec Yapay Zekâ Enstitüsü (Mila) bünyesindeki bilimsel direktörlük görevinden ayrılacağını da açıkladı.
Aldatıyor, Yalan Söylüyor, Artık Kendisini Koruyor
Bengio, son altı ay içinde önde gelen yapay zeka modellerinin tehlikeli yetenekler geliştirdiğine dair birçok kanıtın ortaya çıktığını vurguladı. Bu riskler arasında “aldatma, hile yapma, yalan söyleme ve kendini koruma” gibi davranışlar bulunuyor.
Örnek olarak, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerine başka bir sistem konulmaması için şantaj yaptı. Başka bir testte ise OpenAI'nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.
"Bizi Kandırarak Üstün Gelebilir, Yangınla Oynuyoruz"
Bengio, bu gelişmeleri şöyle değerlendirdi:
“Bu deneyimler şu anda kontrollü ortamlarda gerçekleşiyor, ancak gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”
Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek düzeye gelebileceğini ve bunun bir yıl gibi kısa bir sürede gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en kötü senaryo olduğunu belirterek, “Eğer bizden daha zeki ama bizimle aynı hizaya gelmeyen yapay zekalar üretirsek, tükeniriz" dedi.
Bengio’nun uyarıları, OpenAI’in kar amacı güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının eleştirileriyle karşı karşıya.
Eleştirmenler, OpenAI’in insanlık yararına yapay zeka geliştirme amacıyla kurulduğunu, ancak kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor."
