Anthropic'in Fable 5 Modeli ABD Hükümetiyle Krize Yol Açtı
Yapay zekâ sektöründe son dönemin en büyük tartışmalarından biri Anthropic ile ABD hükümeti arasında yaşanıyor. Trump yönetiminin yapay zekâ danışmanlarından David Sacks, Anthropic'in yeni nesil Fable 5 modelinde tespit edilen kritik bir güvenlik açığını düzeltmeyi reddettiğini iddia etti.
İçindekiler
Sacks'ın açıklamalarına göre hükümet, Fable 5'in güvenlik korumalarının aşılabildiğine dair uyarıları Anthropic'e iletti ancak şirket sorunun ciddi olmadığı görüşünü savundu. Yaşanan anlaşmazlık sonunda ABD'nin Fable 5 ve Mythos 5 modellerine yönelik ihracat kontrolleri uygulamasına kadar uzandı. Bu konunun yanı sıra, detaylı bilgi için OpenAI’dan Kritik Güvenlik Hamlesi: ChatGPT Artık Tuzak Komutlara Karşı Daha Dirençli başlıklı içeriğimize de göz atabilirsiniz.
David Sacks: "Anthropic Uyarıları Dikkate Almadı"
David Sacks'ın aktardığı bilgilere göre hem ABD hükümeti hem de Anthropic ile çalışan güvenilir bir iş ortağı, Fable 5 modelinin güvenlik bariyerlerini aşan bir jailbreak yöntemi keşfetti. Bu yöntemin, modelin normalde erişime kapalı gelişmiş siber güvenlik yeteneklerini ortaya çıkarabileceği öne sürüldü.
Sacks, hükümetin Anthropic CEO'su Dario Amodei'den açığın kapatılmasını veya modelin geçici olarak devre dışı bırakılmasını istediğini, ancak şirketin bu talebi kabul etmediğini iddia etti.
Anthropic İddiaları Kabul Etmiyor
Anthropic ise güvenlik açığının abartıldığını ve hükümet tarafından kendilerine yeterli teknik detay verilmediğini savunuyor. Şirket, söz konusu açığın diğer gelişmiş yapay zekâ modellerinde görülebilecek türden sınırlı bir risk taşıdığını belirtiyor.
Şirkete göre hükümetin aldığı karar, eldeki teknik kanıtlarla karşılaştırıldığında oldukça sert bir müdahale niteliği taşıyor.
ABD İhracat Kontrollerini Devreye Soktu
Anlaşmazlığın büyümesi üzerine ABD Ticaret Bakanlığı, Fable 5 ve Mythos 5 modellerine yönelik yeni ihracat kontrolleri uygulamaya başladı. Karar kapsamında söz konusu modellerin yabancı kişi, şirket veya hükümetler tarafından kullanılabilmesi için özel izin gerekecek.
Anthropic, teknik olarak yabancı kullanıcıları ayrı şekilde filtreleyemediğini belirterek her iki modeli de küresel çapta geçici olarak devre dışı bırakmak zorunda kaldığını açıkladı.
Amazon'ın Adı da Tartışmalarda Geçiyor
Kulislerde konuşulan iddialara göre güvenlik açığının hükümete ulaşmasında Amazon'un önemli rol oynadığı belirtiliyor. Bazı kaynaklar, Amazon araştırmacılarının güvenlik sorununu tespit ettiğini ve üst düzey yöneticilerin konuyu Washington'a taşıdığını öne sürüyor. İlgili bir başka gelişme için Google’dan Devrim: Yapay Zekâ Ajanları Artık Sizin Yerine Alışveriş Yapacak başlıklı yazımızı okuyabilirsiniz.
Amazon ise hükümetlerle güvenlik konularında düzenli olarak görüşmeler yaptıklarını kabul ederken, spesifik olaylar hakkında yorum yapmıyor.
Çin Endişesi de Gündemde
Bazı raporlar, ABD yönetiminin yalnızca jailbreak açığından değil, gelişmiş modellerin Çin bağlantılı grupların eline geçmiş olabileceği ihtimalinden de endişe duyduğunu öne sürüyor. Ancak Beyaz Saray bu konuda resmi bir doğrulama yapmış değil.
Yapay Zekâ Düzenlemelerinde Yeni Dönem
Uzmanlara göre bu olay, ABD'nin yapay zekâ şirketlerine yönelik yaklaşımında önemli bir dönüm noktası olabilir. Daha önce ağırlıklı olarak çip ihracatı ve donanım erişimi üzerinden yürütülen kontrollerin artık doğrudan yapay zekâ modellerine uygulanmaya başlaması dikkat çekiyor.
Bu gelişme, gelecekte diğer büyük yapay zekâ şirketlerinin de benzer güvenlik incelemeleriyle karşı karşıya kalabileceğine işaret ediyor.
Fable 5 krizi, yapay zekâ sektöründe güvenlik, ulusal çıkarlar ve teknoloji şirketlerinin sorumlulukları konusundaki tartışmaları yeniden alevlendirmiş durumda.
Anthropic ile ABD hükümeti arasındaki anlaşmazlığın nasıl sonuçlanacağı henüz bilinmese de, olayın yapay zekâ düzenlemeleri açısından uzun süre konuşulacağı kesin görünüyor. Eğer Anthropic güvenlik sorunlarını giderirse, ihracat kısıtlamalarının kaldırılması da gündeme gelebilir.
