Anthropic araştırmacısından şok istifa: Yapay zeka insanları öldürebilir! Dünya bu sözleri konuşuyor

Yapay zeka şirketi Anthropic'te çalışan araştırmacı Jacob Coxon, şirketlerin kontrol edilemeyen ve kendini geliştiren yapay zeka sistemleri geliştirme yarışına girmesinden duyduğu endişe nedeniyle görevinden ayrıldı. Jacob Coxon, şirketlerin insanların hayatlarıyla kumar oynadığını belirtti. Coxon, "Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor" dedi.

Anthropic araştırmacısı Jacob Coxon, kontrol edilemeyen ve kendini geliştiren yapay zeka sistemleri geliştirme yarışından duyduğu endişeler nedeniyle yapay zeka endüstrisinden istifa etti. Coxon, bu kararını şirketlerin bu tür sistemler inşa etme çabalarına karşı duyduğu kaygılar doğrultusunda aldığını bildirdi.

"HAYATLARIMIZLA KUMAR OYNUYORLAR"

Coxon, yapay zeka şirketlerinin insanların hayatlarıyla kumar oynadığını belirtti. Coxon, sosyal medya hesabından duyurduğu istifasında, "Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar. " dedi.

Jacob Coxon şunları söyledi:

Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştiren ve gerçek güç ile kaynaklar edinebilen süper insan sistemleri olacak. Hepimiz bu alanlardaki ilerlemeyi bizzat gözlemledik ve ilerleme yavaşlamıyor.

"HEPİMİZİ ÖLDÜREBİLİR"

Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerine dikkatle bürünüyor - ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor.

Yaygın bir tepki, "eğer buna gerçekten inanıyorlarsa, neden hâlâ bunu inşa ediyorlar?" şeklindedir. OpenAI'da, pek çok kişi medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmemiştir. Anthropic'te ise riskler iyi anlaşılmıştır, ancak onlar ilk ulaşmak için bir yarışın içindeler - kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapması gerektiğine inanıyorlar.

SOSYAL MEDYA KULLANICILARI, COXON'UN UYARILARINA KARŞI TEPKİLERİNİ YÜKSELTTİ

Coxon'un paylaşımı, kısa sürede milyonlarca görüntülenme alırken, birçok kişi, sosyal medya hesapları üzerinden yaptıkları değerlendirmelerde yapay zekanın geleceğine yönelik endişelerini dile getirdi.

ABD'li milyarder Bill Ackman, paylaşımı alıntılayarak bu durumu "endişe verici" olarak nitelendirdi.

Andrew Yang isimli kullanıcı da "Çoğu kişinin farkında olduğundan daha büyük riskler alıyoruz ve çok geç olmadan mümkün olan en kısa sürede uyum sağlamalıyız." ifadesini kullandı.

Alex Berenson, yapay zekanın riskleri üzerine çalışmalar yürütecek küresel bir komisyona ihtiyaç duyulduğunun altını çizerek, "Hiçbir ekonomik kazanç, böyle bir kumarı göze almaya değmez." dedi.

Krystal Ball ise Coxon'un paylaşımını "sektörden birisinin vahim bir uyarısı daha" şeklinde nitelendirerek konu hakkındaki endişelerini dile getirdi.