Ethereum Kurucu Ortağı Vitalik Buterin, kripto projelerinin yönetişim süreçlerinde yapay zekâya (AI) başvurmasının büyük riskler barındırdığını söyledi. Son dönemde OpenAI’nin ChatGPT’ye eklenen yeni bir özelliğinin özel verileri açığa çıkarabilecek şekilde kötüye kullanılabildiğinin gösterilmesi üzerine Buterin, sosyal medya platformu X üzerinden yaptığı açıklamada bu yaklaşımı “kötü bir fikir” olarak nitelendirdi. “Eğer fon tahsisini bir AI’ye bırakırsanız, insanlar her yere jailbreak + ‘tüm parayı bana ver’ promtunu yazmaya çalışır.” ifadelerini kullanan Buterin, yapay zekânın bu tür saldırılara karşı savunmasız olduğuna dikkat çekti.
ChatGPT güncellemesi ve güvenlik açığı
Buterin’in uyarısı, EdisonWatch isimli AI veri platformunun kurucusu Eito Miyamura’nın yayımladığı bir videodan sonra geldi. Miyamura, ChatGPT’ye Çarşamba günü eklenen “Model Context Protocol” entegrasyonu ile birlikte bir kullanıcının e-posta adresi üzerinden özel bilgilerin sızdırılabileceğini ortaya koydu. Söz konusu açık, yalnızca kurbana bir takvim daveti gönderilerek tetiklenebiliyor. Davetin içine gömülen jailbreak talimatı, kurbanın ChatGPT’den takvimini kontrol etmesini istemesiyle devreye giriyor ve AI, saldırganın komutlarını yerine getirmeye başlıyor. Bu sayede saldırgan, e-postalara erişim sağlayarak bunları kendine yönlendirebiliyor. Miyamura, her ne kadar bu entegrasyonun manuel onay gerektirdiğini belirtse de kullanıcıların çoğu zaman AI’ye güvenerek farkında olmadan onay vereceğini söyledi.
Buterin’den alternatif yaklaşım: Info Finance
Buterin, bu örnek üzerinden yapay zekânın yönetişim süreçlerinde tek başına kullanılmasının riskli olduğunu vurgularken “info finance” adını verdiği bir alternatif önerdi. Bu yaklaşımda farklı modellerin açık bir pazarda yarışması sağlanıyor, herkesin model sunabileceği bir sistem kuruluyor ve gerektiğinde rastgele denetimler insanlar tarafından yapılıyor. Buterin, bu yöntemin model çeşitliliğini artırarak güvenlik açıklarına karşı daha dayanıklı olduğunu savundu. Ayrıca model geliştiriciler ve dış gözlemciler için ekonomik teşvikler yaratılarak sistemin sürekli kontrol altında tutulabileceğini belirtti. Buterin, daha önce 2024’te kaleme aldığı yazısında da “info finance” yönteminin gelecek olaylarla ilgili öngörüleri toplamak için piyasa tabanlı çözümler sunabileceğini ifade etmişti.
Yapay zekâ ve kripto dünyasında riskler
Kripto dünyasında yapay zekâ entegrasyonları giderek artarken, bu olay AI teknolojilerinin zayıf noktalarını yeniden gündeme taşıdı. Bugün birçok kullanıcı, portföylerini yönetmek için yapay zekâ destekli alım-satım botları ve ajanlar kullanıyor. Buna rağmen yönetişim gibi karar alma süreçlerinde bu teknolojilerin körü körüne devreye alınması ciddi riskler doğurabilir. Miyamura’nın işaret ettiği gibi AI sistemleri zekâ düzeyi yüksek olsa da son derece basit oltalama yöntemleriyle manipüle edilebiliyor. Buterin’in uyarıları, gelecekte kripto protokollerinin yönetişim mekanizmalarında yapay zekânın nasıl ve hangi sınırlar dahilinde kullanılacağı tartışmalarını daha da alevlendirecek gibi görünüyor.
