OpenAI, Başında Sam Altman’ın Olduğu Yeni Güvenlik Kadrosunu Duyurdu

OpenAI, daha evvelki güvenlik takımının misyonuna son vermişti. Sonrasında da firma, CEO’su Sam Altman’ın da dahil olduğu yeni bir güvenlik grubu kurduklarını açıkladı. Üç kişilik grupta Altman’ın dışında yönetim kurulu üyeleri Adam D’Angelo ve Nicole Seligman oldu. Komite, “kritik güvenlik ve saklılık kararlarında OpenAI projelerine ve operasyonlarına tavsiyede” bulunacak. 

Komitenin birinci vazifesi de muhakkak oldu. Grup, OpenAI’ın süreçlerini ve güvenlik tedbirlerini değerlendirerek ve geliştirerek çalışmalarına başlayacak. Sonrasında da grubun bulguları OpenAI Yönetim Kurulu ile paylaşılacak. Daha sonra yönetim kurulu bu bilgileri kıymetlendirerek alınacak aksiyonlara ve izlenecek prosedürlere karar verecek. 

Sutskever’in yerine Altman

OpenAI’ın Superalignment isimli eski güvenlik grubunun başında Ilya Sutskever yer alıyordu. Sutskever’ın misyondan ayrılmasından çabucak sonra ekibin diğer lideri olan Jan Leike de firmadan ayrıldığını belirtmişti. OpenAI siyaset araştırmacısı Gretchen Krueger de istifasını sunmuştu. Yeni güvenlik kurulu ile birlikte OpenAI’nın yeni bir model test ettiği de belirtilmiş lakin bu modelin GPT-5 olup olmadığı belirtilmedi. 

Bu ayın başlarında OpenAI yeni bir ChatGPT ses modeli olan Sky’ı tanıtmıştı. Sky’ın sesinin ünlü oyuncu Scarlett Johansson’a benzerliği büyük tartışma çıkarmıştı. Bu durum hem yapay zekâ hayranlarının hem de uzmanların eleştirisini çekmişti. Yeni güvenlik komitesinin bu çeşit sıkıntılara mahzur olabileceği belirtiliyor. Heyette yer alan başka isimler ortasında ise firmanın hazırlık ekibinin başkanı Aleksander Madry, güvenlik takımının başı Lilian Weng, eğilim bilimi ünitesinin başı John Schulman, müdafaa grubunun başı Matt Knight ve baş bilim insanı Jakub Pachocki’den oluşuyor.