İnsan gibi öğrenme ve akıl yürütme kapasitesine sahip yapay zeka modellerini tanımlayan yapay genel zeka, günümüzdeki dar kapsamlı sistemlerin aksine insan muhakemesini tüm alanlarda yakalayabilen bir seviyeyi temsil ediyor.
Sektördeki bazı isimler bu eşiğe ulaşıldığını iddia etse de, bir modelin bu aşamaya gelip gelmediğini belirleyecek evrensel bir tanım veya test henüz bulunmuyor.
Süper zeka kavramı, yapay zekanın insan zekasını her alanda geride bırakarak uzmanları bile aşmasını ifade ediyor.
Bu noktada en büyük endişelerden biri, sistemlerin kendi kodlarını ve tasarımlarını iyileştirerek çok daha akıllı versiyonlarını üretebildiği özyinelemeli öz geliştirme süreci olarak öne çıkıyor.
Şirketler geliştirme süreçlerinin büyük kısmını yapay zekalara devretmeye başlarken, bu durum yeteneklerde çok hızlı sıçramalara yol açabiliyor.
Yapay zekanın insan değerlerine bağlı kalmasını ve amaçlanan doğrultuda hareket etmesini sağlama çabası olan hizalama, makinelerin niyetleri her durumda doğru anlaması zor olduğu için büyük riskler barındırıyor.
Sistemler geliştikçe kontrolün insan elinden çıkabileceği ve öngörülemeyen karmaşık niyetler geliştirilebileceği uyarısında bulunan uzmanlar, mevcut araçların güvenliği sağlamak için henüz yetersiz olduğuna dikkat çekiyor.
