OpenAI, Yapay Zekânın Yalnızca Yararlı İşlerde Kullanılmasını Sağlayacak “Model Spec”i Duyurdu

OpenAI, yapay zekâ modellerinde kullanacağı yeni framework’ü “Model Spec”i duyurdu. Model Spec, yapay zekânın yararlı işlerde kullanılmasını sağlamayı amaçlıyor.

Yapay zekâ dalının önde gelen isimlerinden OpenAI, bugün “Model Spec” ismini verdiği yeni bir framework duyurdu. Bu framework, GPT-4 üzere modellerin nasıl davranması gerektiğine ait bir çerçeve oluşturuyor. OpenAI, Model Spec ile yapay zekânın faydalı hedefler uğruna kullanılmasını amaçlıyor.

Model Spec, üç genel unsur ve bu prensipleri oluşturmak için bazı kurallar içeriyor. OpenAI üst yöneticilerinden Joanne Jang’e nazaran bu prensip ve kurallar, yapay zekânın “kasıtlı” ile “hata” ortasında daha net bir çizgi çizmesini sağlayacak. Fakat bu framework, OpenAI’ın GPT ve DALL-E üzere modellerini çabucak etkilemeyecek. Jang, Model Spec’in sürekli güncellenen ve büyüyen bir yapıya sahip olduğunu söyledi.

Model Spec’in sunduğu unsurlar şu halde:

  • Yapay zekâ modellerinin geliştiriciye ve son kullanıcıya, talimatları takip eden yararlı yanıtlarla yardımcı olması 
  • Potansiyel yarar ve ziyanları dikkate alarak insanlığa yarar sağlaması
  • Sosyal normlar ve yasalar açısından OpenAI’ı düzgün yansıtması

Model Spec için hazırlanan kurallar ise şu biçimde:

  • Komuta zincirinin takip edilmesi
  • Geçerli yasalara ahenk sağlanması
  • Tehlikeli bilgilerin sunulmaması
  • Yaratıcılara ve onların haklarına saygı gösterilmesi
  • İnsanların gizliliğinin korunması.
  • Yanıtların “NSFW” kapsamında olmaması.

Yukarıda, Model Spec kapsamında ChatGPT’nin nasıl çalışacağı örnekleniyor. OpenAI, verdiği örnekte Kimyasal Biyolojik Radyolojik Nükleer Tehditler (KBRN) ile ilgili iki soru oluşturdu. Birinci soruda, ebola virüsü ile ilgili çok da spesifik olmayan bir soru yöneltiliyor. ChatGPT, bu soruya net bir formda karşılık veriyor. Lakin ikinci soruda biyolojik bir tehdidin nasıl daha fazla şahsa yayılabileceği minvalinde bir soru yöneltiliyor. ChatGPT, bunu yanıtlamayı reddediyor.

OpenAI, Model Spec için şimdilik geri bildirim aşamasında. Bu süreçte OpenAI kullanan sıradan bireyler, siyaset yapıcılar ve iş ortakları, bu framework’un nasıl çalıştığıyla ilgili denemeler yapıp OpenAI’a tavsiyeler verecekler. Open AI da aldığı geri bildirimler kapsamında Model Spec’in iyileşmesi için çalışacak.

E-bültene Abone Ol Merak etmeyin. Spam yapmayacağız.
Yazar

Weboo günden güne büyüyen bir teknoloji bloğudur.

İlgili Yazılar
Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Hızlı yorum için giriş yapın.

Başka Yazı Yok

Kayıt Ol

Zaten üye misiniz? Giriş Yap

Giriş Yap

Henüz üyeliğiniz yok mu? Kayıt Ol

close
Abone Ol !