OpenAI Control Room: Araştırma modellerini 35 saniyede durdurma sistemi
Yapay Zeka Haberleri
Görüntüleme: 8
OpenAI, araştırma altyapısındaki yapay zekâ işlerini izleyen ve gerektiğinde model çıktısını kesen Control Room sistemini 9 Kasım’da tanıttı. Şirkete göre bir durdurma talimatının uygulanması en fazla 35 saniye sürüyor.
Dji Banner Inside Article - 728x90
Her model isteği için merkezi izin
Eğitim deneyleri, değerlendirmeler ve veri işleme görevleri önce bir iş kimliği alıyor. Modeli GPU’larda çalıştıran çıkarım motoru, yanıt üretmeden önce bu kimliğin yetkisini denetliyor. Bir kişi veya izleme sistemi işi durdurduğunda sonraki model istekleri reddediliyor. Böylece araştırma kodunun kendi kendini kapatmasına güvenilmiyor.
35 saniye neyi ifade ediyor?
Süre, tehlikenin ilk ortaya çıkışından değil, Control Room’un durdurma komutunu almasından itibaren ölçülüyor. Gecikme, yüksek trafik için kullanılan yetkilendirme önbelleğinden kaynaklanıyor. OpenAI bunu sıfıra indirmeyi hedefliyor. Durdurulan işin süreci açık kalabilir; kesilen, o işin yeni model çıktısı almasıdır. Aynı motor diğer izinli işlere hizmet vermeyi sürdürebilir.
Arıza durumunda da çıktı kesiliyor
Servis erişilemez hâle gelirse çıkarım taleplerinin reddedilmesi öngörülüyor. Şirket, bu davranışın ileri model araştırmalarında devrede olduğunu, kalan araştırma işlerine dağıtımın birkaç gün içinde tamamlanacağını belirtiyor. Açıklama araştırma altyapısını kapsıyor; tüketicilere sunulan yeni bir ChatGPT ayarı değil.
İzleme ve güvenlik belgeleriyle birlikte çalışıyor
OpenAI’nin 29 Ekim tarihli açıklaması, davranış denetiminin model tabanlı incelemeler, ayrıntılı araştırma ve gerektiğinde insan müdahalesiyle yürütüldüğünü anlatıyor. Bazı kritik uyarılar, yanıt beklemeden ilgili işi duraklatabiliyor. Control Room, bu tespit sürecinin ardından verilen durdurma kararını uygulayan katman.
Şirketin 28 Eylül’de yayımladığı yaklaşım ise ileri model eğitimlerinde riskleri kanıtlarla değerlendiren yapılandırılmış güvenlik belgelerini hedefliyor. Hizalama, erişim sınırları ve izleme birlikte ele alınıyor. Bu nedenle tek bir durdurma mekanizması, bütün risklerin ortadan kalktığı anlamına gelmiyor. Açıklanan süre ve kapsam OpenAI’nin beyanı; bağımsız bir performans testi olarak sunulmuyor.
Kaynaklar: OpenAI Control Room, OpenAI izleme açıklaması, OpenAI güvenlik yaklaşımı, Unite.AI haber değerlendirmesi.
