OpenAI’nin robotik ekibinin başındaki isim, şirketin ABD Savunma Bakanlığı ile yaptığı anlaşma konusundaki endişeler nedeniyle görevinden ayrıldı.
2024’ten bu yana ChatGPT geliştiricisinde çalışan Caitlin Kalinowski, kararının şirketin yönetim yapısı ve teknolojisi etrafında net güvenlik sınırlarının belirlenmesi gerekliliğiyle ilgili olduğunu söyledi.
OpenAI CEO’su Sam Altman, geçen ay Pentagon ile yapılan anlaşmayı duyurmuştu. Bu duyuru, ABD Başkanı Donald Trump yönetiminin, rakip şirket Anthropic ile olan sözleşmeyi sonlandırmayı planladığını açıklamasından kısa süre sonra gelmişti. Anthropic, Claude adlı sohbet botunun nasıl kullanılacağı konusunda endişelerini dile getirmişti.
ABD hükümeti ile OpenAI arasındaki anlaşma, şirkette tepkiye yol açtı. Onlarca çalışan, OpenAI’nin Anthropic ile aynı tutumu benimsemesini isteyen bir açık mektuba imza attı.
Kalinowski, hafta sonu LinkedIn’de yaptığı paylaşımda istifasını duyurdu ve ayrılma kararını, ABD Savunma Bakanlığı ile yapılan anlaşmanın duyurulma biçimine bağladı. Açıklamanın “aceleye getirildiğini” ve gerekli güvenlik sınırlarının yeterince tanımlanmadığını düşündüğünü belirtti.
Kalinowski paylaşımında şunları yazdı:
“Bu kolay bir karar değildi. Yapay zekânın ulusal güvenlikte önemli bir rolü var.
Ancak Amerikalıların yargı denetimi olmadan gözetlenmesi ve insan onayı olmadan ölümcül otonom sistemlerin kullanılması gibi konular, ele alındığından çok daha fazla değerlendirmeyi hak ediyordu.”
Ayrıca bundan sonra güvenliğe odaklanan fiziksel yapay zekâ cihazları geliştirmeye devam etmeyi hedeflediğini ifade etti.
Altman ise daha sonra yaptığı açıklamada, Savunma Bakanlığı anlaşmasının ilk duyurusunun “fırsatçı ve özensiz” göründüğünü kabul etti ve anlaşmaya ek güvenlik önlemleri eklemek için düzenleme yaptıklarını söyledi.
OpenAI, güncellenen anlaşmadaki ifadelerin araçlarının ABD vatandaşlarını gözetlemek için kullanılmayacağını ve ölümcül otonom silah sistemlerinde yer almayacağını açıkça belirttiğini açıkladı.
Şirketin açıklamasında şu ifadeler yer aldı:
“Anlaşmamızın, Anthropic’inki de dahil olmak üzere daha önce sınıflandırılmış yapay zekâ uygulamaları için yapılan tüm anlaşmalardan daha fazla güvenlik önlemi içerdiğini düşünüyoruz.
Anlaşmamızda kırmızı çizgilerimizi daha geniş ve çok katmanlı bir yaklaşımla koruyoruz. Güvenlik sistemimiz üzerinde tam takdir yetkimizi koruyoruz, dağıtımı bulut üzerinden yapıyoruz, yetkili OpenAI personeli süreçte yer alıyor ve güçlü sözleşmesel korumalarımız bulunuyor.”