OpenAI’ın yeni güvenlik komitesi büyük tartışma yarattı. Ancak komite üyelerinin yalnızca şirket içinden seçilmesi, büyük tartışmalara yol açtı.
OpenAI, CEO Sam Altman ve diğer üst düzey yöneticilerden oluşan bir Güvenlik ve Emniyet Komitesi kurdu. Komite üyeleri arasında Sam Altman, yönetim kurulu üyeleri Bret Taylor, Adam D’Angelo ve Nicole Seligman, baş bilimci Jakub Pachocki, hazırlık ekibinin lideri Aleksander Madry, güvenlik sistemleri başkanı Lilian Weng, güvenlik başkanı Matt Knight ve uyum bilimi başkanı John Schulman bulunuyor. Bu komite, önümüzdeki 90 gün boyunca OpenAI’nin güvenlik süreçlerini ve önlemlerini değerlendirecek, ardından bulgular ve öneriler yönetim kuruluna sunulacak. Bazı önerilerin halka açıklanması da planlanıyor.
OpenAI’ın Yeni Güvenlik Komitesi: Yüksek Profilli Ayrılıklar ve Endişeler
Son aylarda OpenAI’nin güvenlik ekibinden önemli ayrılıklar yaşandı. Eski çalışanlar, şirketin yapay zeka güvenliği konusundaki önceliklerini sorgulamaya başladı. Daniel Kokotajlo, yapay zeka sistemlerinin sorumlu bir şekilde kullanılması konusundaki inancını yitirdiği için Nisan ayında istifa etti.
Mayıs ayında ise OpenAI’nin kurucularından ve baş bilimci olan Ilya Sutskever, CEO Sam Altman ile yaşanan anlaşmazlıklar nedeniyle şirketten ayrıldı. Sutskever, Altman’ın güvenlik çalışmalarını ihmal ederek yapay zeka ürünlerini hızla piyasaya sürme çabasından rahatsızlık duyduğunu belirtti.
OpenAI’ın Yeni Güvenlik Komitesi: Güvenlik Konusundaki Eleştiriler
Jan Leike ve yapay zeka politikası araştırmacısı Gretchen Krueger de benzer endişelerle şirketten ayrıldı. Leike, OpenAI’nin güvenlik ve emniyet konularını doğru bir şekilde ele almadığını düşündüğünü ifade etti. Krueger ise şirketi hesap verebilirliğini ve şeffaflığını artırmaya çağırdı. Bu ayrılıklar, OpenAI’nin güvenlik stratejilerinin ne kadar etkili olduğu konusunda ciddi sorular doğurdu.
OpenAI, eleştirilen komite yapısını dengelemek için dış uzmanlar da istihdam edeceğini açıkladı. Bu uzmanlar arasında siber güvenlik uzmanı Rob Joyce ve eski ABD Adalet Bakanlığı yetkilisi John Carlin bulunuyor. Ancak, bu dış uzman grubunun komite üzerindeki etkisi ve büyüklüğü hakkında net bilgiler verilmedi. Bloomberg yazarı Parmy Olson, şirket içi denetim kurullarının genellikle gerçek denetim işlevi görmediğini belirtti.
İlgili Haberler:
