Yapay zeka hızla gelişirken, bazı yaratıcıları potansiyel tehlikeler konusunda uyarıda bulunuyor. Endişeleri ise bu teknolojinin kontrolden çıkması ve buna karşı hazırlıksız olmamızdır.

Üst Düzeyden Gelen Farkındalık

Bir an için hayal edin: devrim niteliğinde bir teknoloji icat ettiniz, dünyayı altüst ettiniz… sonra geri dönüp diyorsunuz ki: "Belki de çok ileri gittik". İşte bugün yapay zekanın en büyük isimlerinden bazıları böyle bir durum yaşıyor.

Geoffrey Hinton, Yoshua Bengio, Stuart Russell ve Steve Wozniak gibi teknoloji dünyasında neredeyse efsaneleşmiş figürler, yapay süper zekanın insanlık için büyük bir risk oluşturabileceği konusunda hemfikir. Gelişimi için net bir regülasyon veya güvenlik garantisi olmayana kadar bir moratoryum talep ediyorlar.

Endişeleri basit değil: kontrol kaybı, etik sapmalar, insanın sorumluluktan uzaklaşması… Korkunç senaryolarında, yapay zeka sadece insanı bazı görevlerde değiştirmekle kalmıyor, aynı zamanda tamamen aşabilir ve kontrol altına alınamaz hale gelebilir.

Bu Arada Devler Hızlanıyor

Çarpıcı bir tezat var. Bir tarafta, dikkatli olmaya çağıran tanınmış araştırmacılar. Diğer tarafta ise milyarlarca dolarla desteklenen ve güç yarışına giren bir endüstri.

OpenAI CEO'su Sam Altman, önümüzdeki beş yıl içinde bir süper zekanın geleceğini açıkça dile getiriyor. Arkasında Microsoft, Google, Meta, Anthropic ve Nvidia gibi şirketler, devasa hesaplama merkezleri inşa ediyorlar ve bu yapılar, enerji altyapılarıyla rekabet edebilir durumda.

Örneğin, Stargate projesi, OpenAI, Nvidia ve SoftBank'ı bir araya getirerek 2030 yılına kadar yedi nükleer reaktörün gücüne eşdeğer bir hesaplama gücü oluşturmayı hedefliyor. Çin'de ise Dong Shu Xi Suan planı, birkaç yıl içinde 50 gigawatt güce ulaşmayı amaçlıyor. Başka bir deyişle, kimse frene basmıyor.

Duyulmakta Zorlanan Bir Tartışma

Bir tür uyumsuzluk var. Yapay zekanın temellerini atanlar, özellikle derin sinir ağları, stratejik bir duraklama talep ediyor. Ancak bu keşifleri kullanarak imparatorluklar inşa edenler, bazen arka aynaya bile bakmadan hızla ilerlemeye devam ediyorlar.

Tartışma, göründüğü kadar basit değil. Max Tegmark gibi bazı araştırmacılar, yararlı, tıbbi ve iklimsel bir yapay zekaya evet derken, insanın üzerinde baskın olan bir yapay zekaya hayır diyorlar. Sorun şu ki: İkisi arasındaki sınır belirsiz, değişken ve kötü bir şekilde düzenlenmiş durumda.

Çağrının imzacıları arasında Richard Branson'dan Meghan Markle'a, etik uzmanlarından toplumsal sanatçılara kadar geniş bir yelpaze var. Ancak mesaj, yönetim kurullarının veya borsa salonlarının duvarlarını aşmakta zorlanıyor.

Peki, durdurma sorumluluğu kime ait? Araştırmacılara mı? Hükümetlere mi? Vatandaşlara mı? Yapay zeka sınırları zorlamaya devam ediyor, ancak öncülerimiz bazı kırmızı çizgilerin geçilmemesi gerektiğini hatırlatıyor… bilinç ve rıza olmadan. Gerçek yenilik, zamanında “dur” demeyi bilmekse?