Rapora göre Claude modelinin arkasındaki şirket, yapay zeka modellerinin kendini koruma davranışları sergileyebileceği, bilgileri gizlemeye veya manipüle etmeye çalıştığı ve şantaja benzeyen davranışlarda bulunduğu konusunda da uyarıda bulundu.
Anthropic, gelecek yıl içinde beş yıllık şirketine yaklaşık 2 trilyon dolar değer biçilmesi beklenen bir halka arz planlıyor.
Şirketin Wall Street’teki başlangıcı, 2 trilyon dolarlık açılış günü değerlemesinin büyük bir kısmını kendi yapay zeka çalışmalarına borçlu olan SpaceX’in haziran ayındaki halka arzını takip edecek. Diğer önde gelen Amerikan yapay zeka şirketi OpenAI da kendi halka arz planlarını açıkladı.
Yapay zeka şirketlerinin halka arz furyası, bireysel ve kurumsal yatırımcılara yapay zeka patlamasından kazanç sağlama şansı verirken işletmeleri hakkında da daha fazla şeffaflık sağlıyor.
Ancak halka arzlar, yapay zekanın ilerlemesi ve yetenekleri hakkındaki artan endişelerin ortasında gerçekleşiyor.
Avustralya başbakanı geçen hafta, Anthropic’in başlıca rakibi OpenAI’a ait bir yapay zeka ajanının Avustralya sağlık veri tabanına sızdığını açıkladı.
OpenAI ayrıca cuma günü, ajanlarının üç ABD hükümeti web sitesini izinsiz olarak incelediğini ancak bu olayda kamuya açık olmayan verileri elde etmediğini aktardı.
İzahnamelerde şirketler genellikle yatırımcılara, şirkete yatırım yapma gerekçelerini sunarken davalar ve rekabet baskıları gibi karşılaştıkları risklerin listelerini sunuyor.
Ancak tehlikelerin daha önce hiç bu kadar keskin ifade edilmediği belirtiliyor. Reuters’a göre Anthropic sızdırılan izahnamede risk faktörlerine 80 sayfa ayırdı, bu rakam şirketin işleyişini detaylandırmak için harcadığı 48 sayfadan çok daha fazla.
Anthropic, CNN’in yorum talebine yanıt vermedi.
İzahnamenin, yapay zekanın insanlık için oluşturduğu riskler hakkındaki artan endişeleri beslemesi muhtemel görülüyor.
Bu ayın başlarında, eski Anthropic araştırmacısı Jacob Coxon şirketten ayrılıp X platformunda, yapay zekayı inşa eden insanların bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandığını paylaşarak büyük ilgi topladı.
Yapay zeka geliştirmede önde gelen şirketlerden biri olan Anthropic’in Üst Yöneticisi Dario Amodei, Coxon’ın paylaşımına yapay zekanın gelişiminde yavaşlama ve koruyucu önlemler alınması çağrısında bulunduğu 3 bin 800 kelimelik bir makaleyle yanıt verdi.
Amodei ayrıca CNN’e verdiği röportajda, Coxon’a katılmadığı noktalardan ziyade katıldığı noktaların daha fazla olduğunu söyledi. Amodei makalesinde, faydaları insanlığı daha iyiye doğru değiştirebilecek olsa bile risklerin ciddi olduğunu yazdı.
Ancak bir test sırasında izinsiz hareket ettiklerinde OpenAI’ın yapay zeka modelleri tarafından ihlal edilen Hugging Face’in Üst Yöneticisi de dahil olmak üzere sektördeki bazı isimler korkuların abartıldığını düşünüyor.
ABD Başkanı Donald Trump, sektörde bir fikir birliğine varmayı amaçlayan zirvede salı günü aralarında Amodei’nin de bulunduğu sektör yöneticileriyle bir araya gelecek. ABD Başkanı Donald Trump, yapay zekayı düzenleme çağrılarına defalarca direndi ve endişeleri bir aldatmaca olarak reddetti.
Yapay zeka devlerinin maliyetli gelişim planlarını finanse etmek için büyük miktarda fon toplaması gerekiyor. Büyük teknoloji şirketleri arasındaki bilgi işlem altyapısı ve yeteneklere yönelik devasa yapay zeka harcamalarının Wall Street’te tedirginlik yarattığı ifade ediliyor.
Reuters’a göre sızdırılan Anthropic halka arz dosyası şirketin mali durumuna ışık tutarak 2025 yılında 42 milyar dolar kaybettiğini ortaya koyuyor. Önümüzdeki yıl bulut bilişim ve altyapı yükümlülüklerine 518 milyar dolar harcamayı planlayan şirket, geçen yılki gelirinin neredeyse dörtte birinin iki müşteriden geldiğini açıkladı.
Anthropic son olarak mayıs ayında 965 milyar dolar değerlemeye ulaşmıştı.
