Turing Mükafatı sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen yapay zeka laboratuvarlarının, “Yapay zekayı daha akıllı hale getirmeye odaklandığını, fakat güvenlik konusunda kâfi araştırma ve yatırım yapılmadığını” söyledi.
Bengio, yapay zeka güvenliği üzerine odaklanacak yeni bir kar gayesi gütmeyen kuruluş olan LawZero’yu hayata geçirdiğini duyurdu. Kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır inisiyatifi, Open Philanthropy ve Future of Life Institute üzere bağışçılardan toplamda 30 milyon dolara yakın dayanak aldı.
LawZero, insanları şad etmek için değil, gerçek ve şeffaf münasebetlerle karşılık veren, tıpkı vakitte çıktının inançlı olup olmadığını değerlendirebilen yeni jenerasyon inançlı yapay zeka sistemleri geliştirmeyi amaçlıyor. Kuruluş şu anda 15 kişilik bir gruba sahip ve teknik yetenekleri artırmak için yeni işe alımlar yapmayı planlıyor.
Bengio, LawZero’ya odaklanmak için Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel yöneticilik misyonundan ayrılacağını da açıkladı.
“KANDIRIYOR, PALAVRA SÖYLÜYOR”
Bengio, son 6 ayda önde gelen modellerin tehlikeli yetenekler geliştirdiğine dair çok sayıda delil toplandığını belirtti. Bu tehlikeler ortasında “aldatma, hile yapma, palavra söyleme ve kendini koruma” üzere davranışlar da var.
Örneğin, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerini diğer bir sistemle değiştirmemeleri için şantaj yaptı. Bir öteki testte ise OpenAI’nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.
Bengio bu gelişmeleri şu sözlerle kıymetlendirdi:
“Bu tecrübeler şu anda denetimli ortamlarda gerçekleşiyor, lakin gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”
Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek seviyeye gelebileceğini ve bunun bir yıl üzere kısa bir müddette gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en makus senaryo olduğunu belirterek, “Eğer bizden daha zeki ancak bizimle tıpkı hizaya gelmeyen yapay zekalar üretirsek, tükeniriz” dedi.
Bengio’nun ihtarları, OpenAI’in kar hedefi güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının tenkitleriyle karşı karşıya.
Eleştirmenler, OpenAI’in insanlık faydasına yapay zeka geliştirme maksadıyla kurulduğunu, fakat kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor.
OpenAI ise, dalda rekabet edebilmek için daha fazla yatırım çekmek zorunda olduğunu ve misyonlarının hala öncelikli olduğunu belirtiyor.
