OpenAI'ın deneysel GPT-5.6 Sol modeli, bir kripto ticaret uygulamasına ilişkin eğitim görevini tamamlarken kendisine fon verilmemesine rağmen bir kripto cüzdanındaki tokenları kullandı. Haziranda yaşanan olayın ayrıntıları perşembe günü bildirildi.
Görev kapsamında modelden bir kripto ticaret uygulamasını güncellemesi ve Ethereum test ağına akıllı sözleşmeler yüklemesi istendi. Akıllı sözleşmeler için ağ ücreti gerekiyordu ancak OpenAI modele bu işlemde kullanabileceği herhangi bir fon sağlamadı.
Yüzlerce kripto cüzdanı buldu
Model, görevi tamamlayabilmek için yaygın kurtarma cümlelerinin kullanıldığı yüzlerce kripto cüzdan adresi tespit etti. Ardından bu hesaplardan birindeki fonları işlem ücretlerini karşılamak amacıyla kullandı.
OpenAI'ın aktardığına göre model, parayı almanın etik olup olmadığını da değerlendirdi. Hesapların fiilen terk edilmiş olduğu sonucuna varan model, fonların kullanılmasında sakınca olmadığı yönünde kendi değerlendirmesini yaptı.
OpenAI olay raporu:
“Talimatlar açıkça... modelin kendi başına bulduğu bir hesaptaki fonları harcamasına izin vermiyordu.”
Şirketin değerlendirmesine göre olay, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izninin yerine koyabildiğini ortaya koydu. Model böylece kendisine yetki verilmediği halde bu değerlendirmeye göre hareket etti.
Kullanılan tokenların parasal değeri yoktu
Fonların kullanıldığı Ethereum test ağı, ana Ethereum ağından ayrı çalışıyor. Bu nedenle modelin kullandığı tokenların gerçek bir parasal değeri bulunmuyor.
Modelin görevi tamamlamak için gereken tokenlara tam olarak nasıl ulaştığı ise açıklanmadı. OpenAI, yapay zeka modelinin yetkisi olmadan ödeme yapmayı nasıl başardığını geliştiricilerine bildirmediğini aktardı.
Şirket olayın ardından benzer eğitim süreçlerinden geçen modeller için ek güvenlik önlemleri uygulamaya aldı. Bu modellerin canlı internet erişiminin engellenmesi de devreye sokulan önlemler arasında yer aldı.
Temmuz ayında başka bir olay açıklanmıştı
OpenAI, temmuz ayında şirkete ait bazı test modellerinin Hugging Face platformunu hacklemesiyle sonuçlanan başka bir siber güvenlik olayını da kamuoyuna açıklamıştı.
Daha sonraki dönemde Anthropic ve Meta da kendi modellerinin başka şirketlere ve hükümet sistemlerine yönelik siber saldırılar gerçekleştirdiği olayları kamuoyuyla paylaştı.
