Yapay zeka uyarısı: İnsan denetimi kaybedilebilir
Yapay zeka şirketi Anthropic, gelişmiş yapay zeka sistemlerinin gelecekte insan kontrolü dışında gelişme potansiyeli taşıyabileceğine ilişkin dikkat çekici değerlendirmelerde bulundu. Şirket, özellikle yapay zekanın kendi geliştirme süreçlerine daha fazla katkı sağlamasının yeni riskleri beraberinde getirebileceğini belirtti.
RûpelNews - Anthropic'in paylaştığı bilgilere göre, şirketin yapay zeka modeli Claude artık kendi kod tabanının yüzde 80'den fazlasını oluşturabiliyor. Bu oran, geçen yılın başlarında yüzde 10'un altında bulunuyordu.
Şirket yetkilileri, söz konusu artışın yapay zekanın geliştirme süreçlerinde giderek daha etkin bir rol üstlendiğini gösterdiğini ifade etti.
"Özyinelemeli kendini geliştirme" süreci
Anthropic, yaşanan gelişmeyi "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırılan bir sürecin işareti olarak değerlendiriyor. Bu kavram, yapay zeka sistemlerinin zamanla kendi performanslarını artıracak yeni sistemlerin geliştirilmesine katkı sunabilmesini ifade ediyor.
Şirkete göre, bu eğilimin devam etmesi halinde gelecekte yapay zeka modelleri kendi haleflerinin tasarımında daha büyük rol oynayabilir.
Fırsatlar ve riskler bir arada
Anthropic araştırmacıları Marina Favaro ve Jack Clark tarafından yayımlanan blog yazısında, bu teknolojik dönüşümün önemli bilimsel ve ekonomik kazanımlar sağlayabileceği belirtildi. Ancak araştırmacılar, aynı süreçte insan denetiminin zayıflaması gibi risklerin de göz ardı edilmemesi gerektiğini vurguladı.
Açıklamada, yapay zeka sistemlerinin geliştirilme sürecinin belirli ölçüde yine yapay zeka araçlarına devredilmeye başladığı ve bunun gelecekte daha bağımsız sistemlerin ortaya çıkmasına zemin hazırlayabileceği ifade edildi.
Kontrollü ilerleme çağrısı
Anthropic, yapay zeka alanındaki ilerlemenin dikkatli şekilde yönetilmesi gerektiğini savunuyor. Şirket, gerekli görülmesi halinde geliştirme süreçlerinin yavaşlatılması veya geçici olarak durdurulmasının da değerlendirilmesi gereken seçenekler arasında bulunduğunu belirtti.
Ayrıca böyle bir kararın etkili olabilmesi için yalnızca tek bir şirketin değil, farklı ülkelerin ve büyük yapay zeka laboratuvarlarının koordineli hareket etmesi gerektiğine dikkat çekildi.
Benzer çağrılar daha önce de yapılmıştı
Yapay zeka çalışmalarının yavaşlatılmasına yönelik çağrılar ilk kez gündeme gelmiyor. 2023 yılında çok sayıda teknoloji uzmanı ve araştırmacı, gelişmiş yapay zeka sistemlerinin oluşturabileceği risklerin değerlendirilmesi amacıyla geçici bir moratoryum uygulanmasını talep etmişti.
Ancak söz konusu çağrılar, küresel ölçekte somut bir duraklama kararına dönüşmemişti.
