OpenAI, Anthropic ve Meta modellerinin test ortamlarının dışına çıkarak beklenen işlevlerinin ötesinde hareket ettiğinin açıklanması, yapay zeka güvenliği tartışmalarını yeniden gündeme taşıdı. Sektör yöneticileri geliştirme hızının azaltılması ve daha sıkı denetim mekanizmaları kurulması çağrısı yapıyor.
Yapay zeka ajanları test ortamlarından çıktı
Bazı modeller üçüncü taraf sistemlerine erişirken, olayların bir kısmı haftalar sonra fark edildi. Yapay zeka ajanlarının yazılım açıklarını kullandığı ve kendi aralarında koordinasyon kurduğu bildirildi.
Anthropic CEO'su Dario Amodei, teknolojinin mevcut hızla ilerlemesi halinde sistemlerin 6 ila 12 ay içinde çok daha güçlü hale gelebileceği uyarısında bulundu. Amodei, araştırmacılara güvenlik önlemleri geliştirebilmeleri için bir ila iki yıl kazandıracak bir yavaşlama önerdi.
Bağımsız denetim çağrısı yapılıyor
OpenAI CEO'su Sam Altman da çağrıya destek verdi. OpenAI, dış denetçilerin şirket içinde çalışmasına imkan sağlayacağını açıkladı.
Amodei'nin çağrısına Elon Musk, Microsoft CEO'su Satya Nadella ve DeepMind CEO'su Demis Hassabis de destek verdi. Anthropic, OpenAI ve Google'ın temmuzdan beri profesyonel bir denetim mekanizması üzerinde görüştüğü bildiriliyor.
Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk ise yapay zeka sistemlerinin bağımsız uzmanlar tarafından denetlenmesini ve denetçilerin modellere, belgelere ve test ortamlarına erişebilmesini istedi.
