Haber Merkezi, (SH)
Yapay zeka teknolojilerinin geliştirilmesinde kilit rol oynayan araştırmacılar, devasa sermayelerin yönlendirdiği “süper zeka” yarışının insanlık için oluşturduğu varoluşsal tehditleri teşhir etmeyi sürdürüyor. OpenAI ve son olarak Anthropic bünyesinde ön eğitim (pre-training) uzmanı olarak çalışan kıdemli araştırmacı Jacob Coxon, şirketlerin güvenlik ilkelerini göz ardı ederek kendilerini geliştirebilen sistemler üretme yarışına girmesine tepki göstererek görevinden istifa ettiğini açıkladı.
Salı günü sosyal medya hesabı X üzerinden bir açıklama yapan Coxon, teknoloji devlerinin kontrol dışına çıkabilecek yapay zeka sistemleri inşa etme konusunda sorumsuz bir tutum sergilediğini vurguladı.
“Sorumsuz davranıyorlar, hayatlarımızla kumar oynuyorlar”
Son üç yılını OpenAI ve Anthropic laboratuvarlarında büyük miktarda veriyle modelleri eğiterek geçiren Coxon, teknoloji devlerinin “güvenlik” söylemlerinin arkasındaki gerçeği şu sözlerle teşhir etti:
“Bugün Anthropic’ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştiren ve gerçek güç ile kaynaklar edinebilen süper insan sistemleri olacak. Hepimiz bu alanlardaki ilerlemeyi bizzat gözlemledik ve ilerleme yavaşlamıyor.”
“Yöneticiler özelde korkularını dile getiriyor, bu bir pazarlama numarası değil”
Yapay zeka teknolojisini geliştiren üst düzey kadroların ve sermaye temsilcilerinin tehlikelerin farkında olmasına rağmen üretimi sürdürdüğünü belirten Coxon, sektör içerisindeki ikiyüzlülüğe dikkat çekti:
“Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor.”
“Anthropic ilk olmak için yarışıyor, OpenAI riskleri içselleştirmemiş”
Sektörün iki ana aktörü olan OpenAI ve Anthropic’in tehlikelere yaklaşımını karşılaştıran Coxon, Anthropic’in “güvenli yapay zeka” iddiasının da yarış baskısı karşısında çöktüğünü ifade etti:
“Yaygın bir tepki, ‘Eğer buna gerçekten inanıyorlarsa, neden hâlâ bunu inşa ediyorlar?’ şeklindedir. OpenAI’da, pek çok kişi medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmemiştir. Anthropic’te ise riskler iyi anlaşılmıştır ancak onlar ilk olmak için bir yarışın içindeler. Kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapması gerektiğine inanıyorlar. Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekten nasıl hissettireceğini düşünmenizi şiddetle tavsiye ederim.”