Ethereum'un kurucularından Vitalik Buterin, hızla gelişen yapay zekânın potansiyel risklerine karşı, endüstriyel ölçekli bilgi işlem gücünde geçici bir sınırlama getirilmesini öneriyor. Buterin, 5 Ocak tarihli blog yazısında, küresel bilgi işlem kaynaklarının %90-99 oranında, bir ila iki yıl süreyle sınırlandırılmasının, insanlığı süper zekâlı yapay zekâ sistemlerinin ortaya çıkışına hazırlamak için kritik bir zaman sağlayabileceğini savunuyor. Bu önlemin, yapay zekâ geliştiricilerinin sorumluluğunu artırmak gibi daha az kısıtlayıcı yöntemlerin başarısız olması durumunda devreye alınması gerektiğini vurguluyor. Buterin, böyle bir kısıtlamanın, "savaş zamanı modu"nda bir yılın, normal koşullarda yüz yıllık çalışmaya denk gelebileceğini belirtiyor.
Bu öneri, yapay zekânın hızla gelişmesiyle ilgili artan endişeler bağlamında geldi. 2023 Mayıs'ında, birçok teknoloji uzmanı ve araştırmacı, yapay zekâ gelişiminin durdurulması çağrısında bulunan bir açık mektuba imza atmış ve büyük ölçekli sosyal zararlar, kötüye kullanım olasılığı ve insan kontrolünün kaybı gibi risklere dikkat çekmişti.
Autonomys CEO'su Todd Ruoff, Buterin'in endişelerinin, özellikle yapay zekâ sistemlerindeki güç ve karar verme süreçlerinin olası doygunluğuna yönelik gerçek risklere dayandığını belirtiyor ve bu durumun, acil denetim ve yönetim çerçeveleri gerektirdiğini vurguluyor. Ruoff, merkeziyetsizliğin, kontrolün paylaşılmasını ve işbirlikçi bir geliştirme yaklaşımını teşvik ederek, daha hesap verebilir, şeffaf ve olası kötüye kullanımlara karşı daha dirençli yapay zekâ sistemleri oluşturma yolunu açabileceğini düşünüyor.
Buterin, yapay zekânın gelişmesinin kaçınılmaz olduğunu kabul ederken, teknoloji sektörünün etik geliştirmeye ve sağlam güvenlik önlemlerine öncelik vermesi gerektiğini savunuyor. Önerdiği duraksamayı uygulamak için, endüstriyel ölçekli yapay zekâ donanımının, uluslararası kuruluşlardan haftalık yetkilendirme gerektiren güvenilir bir çip ile donatılmasını öneriyor. Bu sistem, yapay zekâ sistemlerinin yalnızca uygun denetim altında çalışmasını sağlayacak. Buterin, imzaların cihazdan bağımsız olacağını ve bunun "her şey veya hiçbir şey" anlamına geleceğini belirtiyor.
Yazısında, "yapay süper zekâ"nın ortaya çıkmasının beş ila elli yıl arasında sürebileceğini belirten Buterin, varsayılan sonucun olumlu olacağının garanti olmadığı ve birçok riskin göz önünde bulundurulması gerektiği konusunda uyarıyor.
