Altman: İnsanlar geleceğin kontrolünü süper zekaya bırakmamalı

Üç cümlelik gönderi

OpenAI CEO’su Sam Altman 4 Kasım’da (01.40 UTC) X’te kısa bir gönderi paylaştı. Altman’a göre insanlar geleceğin kontrolünü her zaman elinde tutmalı. OpenAI, insanların “yapay zeka sistemlerinin insanlarda ödüllendirilmesini mantıklı bulduğu” işleri yapma rolüne indirgenmesini kabul edilebilir bulmuyor. Altman, insanların geleceğin kontrolünü süper zekaya bırakmaması, bu şartın da yapay zekadaki ilerlemeyi nihayetinde sınırlaması gerektiğini yazdı.

Gönderi 6 Kasım sabahına kadar 10,3 milyondan fazla görüntülendi ve 5.400’den fazla yanıt aldı. Keras’ın yaratıcısı ve ARC Prize’ın kurucu ortağı François Chollet, gönderiyi “Katılıyorum” diye alıntıladı. Chollet’ye göre inşa etmeye değer tek gelecek, yapay zekanın insanlık durumunu yükseltmek için insanların elinde bir araç olarak kaldığı gelecek.

Sam Altman@sama

İnsanlar geleceğin kontrolünü her zaman elinde tutmalı.

OpenAI, insanların "yapay zekâ sistemlerinin insanlarda ödüllendirilmesini mantıklı bulduğu" şeyleri yapma rolüne indirgenmesinin kabul edilebilir olduğu fikrine karşı.

İnsanlar geleceğin kontrolünü süper zekâya bırakmamalı ve bu şart nihayetinde yapay zekâdaki ilerlemeyi sınırlamalı.

İngilizceden çevrildi·Orijinalini göster

İfadenin kaynağı

Altman’ın tırnak içinde verdiği ifade, Anthropic CEO’su Dario Amodei’nin Ekim 2024’te yayımladığı “Machines of Loving Grace” makalesinde birebir geçiyor. Amodei makalenin çalışma ve anlam bölümünde, yapay zeka uzun vadede çok etkili ve ucuz hale gelince bugünkü ekonomik düzenin anlamını yitireceğini yazıyor. Olası çözümler arasında büyük bir evrensel temel geliri ve yapay zeka sistemlerinden oluşan kapitalist bir ekonomiyi sayıyor. Bu ikinci senaryoda yapay zeka sistemleri kaynakları insanlara, “yapay zeka sistemlerinin insanlarda ödüllendirilmesini mantıklı bulduğu” şeylere göre dağıtıyor. Bu yargı da “nihayetinde insan değerlerinden” türetiliyor.

Amodei bunu bir öneri olarak değil, birkaç olasılıktan biri olarak yazmıştı. Aynı bölümde bu çözümlerin “pek çok olası sorunu” olduğunu, sömürücü ya da distopik yönlerin de mümkün olduğunu ve bunların önlenmesi gerektiğini belirtiyordu. Altman, Amodei’nin ya da Anthropic’in adını anmadı; bağlantı ifadenin birebir aynı olmasına dayanıyor.

ADIPEC’teki konuşma

Altman iki gün önce, 2 Kasım’da Abu Dabi’deki ADIPEC enerji konferansının açılışında da aynı konuya değinmişti. The National’a göre Altman, gazetenin genel yayın yönetmeni Mina Al-Oraibi ile söyleşisinde geleceğin “yapay zekaya devredilmemesi” gerektiğini söyledi. Ona göre teknoloji “insanlar için yapılmış bir araç” olmalı ve bu konuda “tartışmaya yer olmamalı”. Altman şöyle ekledi: “Bunun bizi diğer yapay zeka şirketlerinden ayırdığına inanamıyorum ama ayırıyor.” Aynı konuşmada yapay zekanın yılın başında en zeki bilim insanlarının gerisindeyken artık “çoğunlukla onlardan daha zeki” olduğunu öne sürdü.