OpenAI, araştırma modelleri için 35 saniyede devreye giren acil durdurma sistemi duyurdu
OpenAI, araştırma modellerini güvenlik riski anında durdurabilen bir acil durdurma sistemi geliştirdiğini açıkladı. Sistemin modellerin yeni çıktı üretmesini 35 saniyede engelleyebildiği belirtiliyor. Bazı haberler sistemden Kontrol Odası, bazıları Control Room adıyla söz ediyor.
OpenAI, yapay zekâ araştırma altyapısında çalışan modelleri gerektiğinde durdurabilen bir acil durdurma sistemi duyurdu. Sistemin, güvenlik riski ortaya çıktığında devreye alınması amaçlanıyor. Açıklamaya göre sistem, araştırma modellerini hedef alıyor.
Sistemin en dikkat çekici özelliği, modellerin yeni çıktılar üretmesini 35 saniyede engelleyebilmesi. Bu süre, risk anında müdahale için verilen tek somut süre olarak öne çıkıyor. Sistemin araştırma modellerini durdurabildiği ve yeni çıktı üretimini engelleyebildiği belirtiliyor.
Adlandırmada farklılık bulunuyor: bazı anlatımlarda sistem Kontrol Odası olarak anılıyor, bazılarında ise Control Room adı kullanılıyor. Her iki adlandırma da aynı acil durdurma sistemine işaret ediyor. Sunulan işlev aynı: güvenlik riski anında modellerin çıktı üretmesini durdurmak.
OpenAI’nin sistemi araştırma altyapısında devreye aldığı belirtiliyor. Paylaşılan bilgilerde sistemin hangi modellere ne ölçüde uygulanacağına veya ileride nasıl kullanılacağına dair ek ayrıntı yer almıyor.
Turkrazzi derlemesi · 2 kaynaktan
