BM’de yapay zekâ uyarısı: Bir yol ayrımındayız
OpenAI CEO’su Sam Altman ve Anthropic CEO’su Dario Amodei, BM Güvenlik Konseyi’nde yapay zekânın insan kontrolünden çıkma riskine karşı uyardı. Altman, “Bir yol ayrımındayız” derken Amodei, kötü yönetilmesi halinde yapay zekânın “bütün olarak insanlık için risk oluşturabileceğini” söyledi.
RûpelNews - Yapay zekâ sektörünün önde gelen yöneticileri, Birleşmiş Milletler Güvenlik Konseyi’nde düzenlenen “Yapay zekâ ve uluslararası güvenlik” başlıklı toplantıda konuştu.
OpenAI CEO’su Sam Altman, yapay zekâ modellerinin hızla gelişmesinin teknolojinin sağlayacağı faydaları artırırken riskleri de daha acil hale getirdiğini söyledi.
Altman, yapay zekânın insanlık açısından iki farklı geleceğe kapı açabileceğini belirterek, teknolojinin yaratıcılık ve keşiflerle dolu yeni bir dönemi başlatabileceği gibi büyük toplumsal sarsıntılara da yol açabileceğini ifade etti.
“İnsan müdahalesini saf dışı bırakabilir”
Altman, yapay zekâ sistemlerinin giderek daha yetenekli ve otonom hale gelebileceğini, bunun dünyadaki güç dengelerini değiştirebileceğini söyledi.
Yapay zekânın kendi gelişim sürecinde daha fazla rol üstlenmesinin ilerleme hızını ciddi biçimde artırabileceğini belirten Altman, bunun zamanla insan müdahalesini devre dışı bırakma riski taşıdığı uyarısında bulundu.
Altman’a göre şirketler, sağlayacağı faydalar gerekçesiyle bu riskleri görmezden gelmemeli ve insan kontrolünde tutulabileceğinden emin olmadıkları modelleri eğitmemeli.
Yapay zekâya ilişkin kritik kararların yalnızca teknoloji şirketlerinin elinde olmaması gerektiğini savunan Altman, bu kararların demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini söyledi.
Altman, küresel işbirliği çağrısında bulunarak, “Bir yol ayrımındayız” dedi.
Amodei: İki temel risk var
Anthropic CEO’su Dario Amodei ise yapay zekânın oluşturduğu tehlikeleri iki temel başlık altında topladı.
Amodei’ye göre ilk risk, gelişmiş yapay zekâ modellerinin kötü niyetli kişiler tarafından kullanılması. Amodei buna, yapay zekânın biyolojik silah geliştirmek isteyen kişiler tarafından kullanılmasını örnek gösterdi.
İkinci risk ise “kontrol kaybı”. Amodei, modellerin yeteneklerinin onları geliştiren insanların kontrol kapasitesinden daha hızlı ilerleyebileceğine dikkat çekti.
“Kötü yönetilmesi halinde yapay zekânın bütün olarak insanlık için risk oluşturabileceğine inanıyorum” diyen Amodei, yapay zekâ güvenliğinin tek bir şirket veya ülkenin çözebileceği bir mesele olmadığını vurguladı.
Amodei, yapay zekânın biyolojik silah üretiminde kullanılmasının yasaklanması, gelişmiş modellerin risklere karşı ortak standartlarla test edilmesi ve ülkelerin birbirlerine verdikleri taahhütleri denetleyecek doğrulama sistemlerinin kurulması çağrısında bulundu.
Toplantıda konuşan Hugging Face CEO’su Clement Delangue da şirketlerinin otonom bir yapay zekâ ajanı tarafından gerçekleştirilen siber saldırıya maruz kaldığını belirterek, yapay zekâ kaynaklı siber tehditlere karşı küresel standartlara ihtiyaç olduğunu söyledi.
