Kaynak: Oksijen
Dünyanın farklı ülkelerinden onlarca matematikçi, yapay zekâ şirketlerinin matematik alanındaki başarılarına ilişkin iddialarına karşı uyarıda bulunan ortak bir bildiriye imza attı. Avrupa, Japonya ve ABD dahil birçok ülkeden 150’den fazla profesörün destek verdiği bildiride, özellikle hükümetlere yapay zekâ sistemlerinin matematiksel yetenekleri konusunda ortaya atılan iddialara temkinli yaklaşmaları tavsiye edildi.
Bildiri; yapay zekâ şirketlerinin son dönemde sistemlerinin uluslararası düzeydeki matematik yarışmalarındaki performanslarına ve matematikte uzun süredir çözülemeyen bazı problemlere çözüm üretebildiğine ilişkin açıklamalarının ardından yayımlandı. Uluslararası Matematik Birliği’nin (IMU) Başkan Yardımcısı Ulrike Tillmann da bildiriyi destekleyen isimler arasında yer aldı. Tillmann, yapay zekânın matematik alanında yeni ve heyecan verici fırsatlar sunduğunu ancak beraberinde dikkatle değerlendirilmesi gereken sorular da getirdiğini belirterek şu ifadeleri kullandı:
“Matematiksel araştırmaların geleceği insan muhakemesi, adil ve şeffaf uygulamalar ile küresel matematik topluluğunun ortak değerleri doğrultusunda şeklblenmelidir.”
“Şirketlerin başarıları abartmak için ticari teşvikleri var”
Bildiride, OpenAI ve benzeri şirketlerin ürünlerinin yeteneklerini olduğundan daha güçlü göstermeleri için güçlü ticari motivasyonlara sahip olduğu vurgulandı. Yüz milyarlarca dolarlık yatırımın söz konusu olduğu yapay zekâ sektöründe şirketlerin modellerini mümkün olan en olumlu şekilde tanıtmaya çalıştığına dikkat çekildi.
Metinde, yapay zekâ sistemlerinin insan hakemli bilimsel değerlendirme süreçleri tamamlanmadan, piyasa dinamiklerine uygun hızda kamuoyuna sunulduğu belirtilerek, belirli matematiksel görevlerdeki başarıların ticari modellerin genel muhakeme kapasitesinin göstergesi gibi sunulmasının yanıltıcı olabileceği ifade edildi.
Bildirinin yazarlarından biri olan Columbia Üniversitesi profesörü Michael Harris, sektördeki rekabetin son derece yoğun olduğunu belirterek, şirketlerin yatırım çekebilmek için matematik alanındaki başarıları öne çıkardığını söyledi. Elon Musk’ın sahibi olduğu SpaceX bünyesindeki xAI ile Anthropic’in halka arz hazırlıklarında ilerleme kaydettiği, sektörün öncü şirketlerinden OpenAI’ın da benzer bir sürece yaklaştığı belirtilen bir dönemde yapılan bu açıklama, şirketlere dolaylı bir eleştiri olarak değerlendirildi.
Terence Tao videosuna eleştiri
OpenAI, geçtiğimiz günlerde sosyal medyada yayımladığı bir videoda, matematiğin en prestijli ödüllerinden biri olan Fields Madalyası’nın sahibi UCLA profesörü Terence Tao’nun, şirket ürünlerinin araştırmaları destekleme potansiyeline ilişkin değerlendirmelerine yer vermişti. Profesör Michael Harris, Tao’nun matematik dünyasına büyük katkılar sunan son derece saygın bir isim olduğunu belirtirken, matematik alanındaki görüşlerin sürekli aynı kişiler üzerinden aktarılmasının sağlıklı olmadığını ifade etti.
“Yanlış kanıtlar ve akademik sorunlar doğurabilir”
Bildiriyi hazırlayan matematikçiler, yapay zekâ sistemlerinin ilk bakışta ikna edici görünen ancak gerçekte hatalı olan matematiksel ispatlar üretebileceği konusunda da uyarıda bulundu. Bu tür hataların insanlar tarafından tespit edilmesinin zor olabileceği belirtildi.
Matematikçiler, yapay zekâ kullanımının artmasının akademik dünyada yaratabileceği olumsuz etkileri şu şekilde sıraladı:
- Emeğin görünmez kılınması: Yapay zekâ kullanımı, sistemlerin üzerine inşa edildiği araştırmalarda emeği geçen bilim insanlarının katkılarının görünmez hale gelmesine yol açabilir.
- Popüler alanlara yönelim: Bilim insanları, yeni araçlardan yararlanabilecek popüler araştırma alanlarına yönlendirilebilir; buna karşılık diğer önemli problemler geri planda kalabilir.
- Akademik bağımsızlığın yitirilmesi: Bu süreç, hakem değerlendirme mekanizmalarını zayıflatabilir ve akademisyenleri bağımsız araştırma yapmak yerine yapay zekâ şirketlerinin ihtiyaçlarına hizmet eden bir konuma sürükleyebilir.
Savaş, gözetim ve çevresel riskler
Matematikçiler, yapay zekânın yalnızca akademik alanda değil; savaş teknolojileri, kitlesel gözetim sistemleri, siyasi manipülasyon ve çevresel zararlar gibi alanlarda da ciddi riskler barındırdığını savundu.
Bildirinin sonunda matematikçilere doğrudan çağrı yapılarak, yürüttükleri araştırmaların etik sonuçlarını değerlendirmeleri ve gerektiğinde zarar verici çalışmalardan çekilmeleri istendi.