OpenAI تكشف Control Room: نظام مركزي يوقف مخرجات نماذجها البحثية خلال 35 ثانية لو ظهر خطرOpenAI unveils Control Room, a central system that halts its research models' output within 35 seconds if a risk appears

شرحت OpenAI في 10 نوفمبر نظامًا داخليًا اسمه Control Room، يتابع كل الأعمال اللي تشغّل نماذجها في بنيتها البحثية، ويقدر يوقف مخرجات أي نموذج بسرعة لو ظهرت مخاوف تخص السلامة أو الأمن. وتقول الشركة إن النظام يوقف المخرجات خلال 35 ثانية بعد قرار التدخل.

وطريقة الشغل: كل مهمة بحثية، مثل تجربة تدريب أو تقييم، تاخذ رقم تعريف من Control Room، وأي مهمة تخلّي النماذج تشتغل كوكلاء لازم ترتبط بـ«ملف سلامة» معتمد. وقبل ما يرد النموذج على أي طلب، يسأل محرّك التشغيل Control Room إذا المهمة لسا مسموح لها. ولو أوقفها شخص أو نظام مراقبة، يرفض المحرّك أي طلب جديد لها، حتى لو كود المهمة نفسه لسا شغّال.

وتقول OpenAI إن كل مهام التعلم المعزز لنماذجها المتقدمة تشتغل مع «مراقب»، وهو نموذج ثاني يتابع كل اللي يسويه النموذج اللي يتدرّب، وينبّه لو لقى مشكلة. والنظام مصمم بحيث «يفشل بأمان»: لو تعطّل Control Room، أو عطّله أحد متعمدًا، يرفض المحرّك كل الطلبات لين يرجع النظام يشتغل.

وتقول الشركة إن تأخير الـ35 ثانية سببه طبقة تخزين مؤقت لأذونات التشغيل، وإنها تشتغل عشان توصله للصفر. والنظام مطبّق على البنية البحثية، أما النماذج اللي يستخدمها الناس فتقول OpenAI إن عندها أصلًا قدرة تسحبها بسرعة لو احتاجت. وخاصية «الفشل الآمن» شغّالة على مهام النماذج المتقدمة، والشركة بتكمل طرحها على باقي المهام البحثية خلال الأيام الجاية. والكلام كله من OpenAI نفسها، بدون مراجعة مستقلة.

OpenAI on 10 November described an internal system called Control Room that tracks every workload running its models across its research infrastructure and can quickly stop any model's output when a safety or security concern comes up. The company says it halts output within 35 seconds of a decision to intervene.

How it works: each research job, such as a training experiment or an evaluation, gets an ID from Control Room, and every workload that does agentic inference must be tied to an approved safety case. Before a model answers any request, the inference engine asks Control Room whether the job is still allowed to run. If a person or a monitoring system has stopped it, the engine refuses any new request, even if the job's own code is still running.

OpenAI says all of its frontier reinforcement learning jobs run with a monitor, another model that inspects everything the model being trained does and raises an alert if it finds a problem. The system is designed to fail closed: if Control Room goes down, or someone deliberately disables it, the engines deny all requests until it is back.

The company says the 35-second lag comes from a caching layer for inference authorisation and that it is working to bring it down to zero. The system covers research infrastructure; for the models people use, OpenAI says it already has a well-developed ability to take deployments down quickly. Fail-closed is live for frontier model research workloads and will reach the remaining research workloads over the next few days. All of this comes from OpenAI itself, with no independent review.

وش يعني لك؟What it means for you

هذا النظام داخلي في مختبرات OpenAI ومخصص للبنية البحثية، فما له علاقة مباشرة باستخدامك لـChatGPT. لكنه يوضّح إن الشركات الكبيرة صارت تبني «زر إيقاف» فعلي لنماذجها التجريبية، وتذكّر إن الأرقام كلها من الشركة نفسها.This is an internal system for OpenAI's research infrastructure, so it has no direct link to how you use ChatGPT. But it shows big labs are building a real stop button for their experimental models, and the figures all come from the company itself.

المصدرSource: OpenAI · 10 Nov 2026 ↗
كتبنا الخبر بأسلوبنا اعتمادًا على المصدر الأصلي. للتفاصيل الكاملة ارجع للمصدر.Written in our own words from the original source. See the source for full details.

سالفة كل أسبوع في إيميلكGet salfa every week

أهم أخبار الذكاء الاصطناعي كل أسبوع، وفكرة وحدة تطبّقها. مجانًا.The week's top AI news and one idea to try. Free.

اشتركSubscribe

أخبار ثانية من نفس اليومMore from the same day

← رجوع لأخبار اليوم← Back to today’s news · أرشيف الأخبارNews archive