അപകടസാധ്യതയുള്ള എഐ പ്രവർത്തനങ്ങൾ നിർത്താൻ ‘കിൽ സ്വിച്ച്’; കൺട്രോൾ റൂം അവതരിപ്പിച്ച് ഓപ്പൺഎഐ | OpenAI Control Room system
അപകടസാധ്യതയുള്ള എഐ മോഡലുകളുടെ പ്രവർത്തനം വേഗത്തിൽ അവസാനിപ്പിക്കാൻ കേന്ദ്രീകൃത സംവിധാനം അവതരിപ്പിച്ച് ഓപ്പൺഎഐ. ‘കൺട്രോൾ റൂം’ എന്ന് പേരിട്ടിരിക്കുന്ന സംവിധാനത്തിലൂടെ ഇടപെടാൻ തീരുമാനിച്ചാൽ പരമാവധി 35 സെക്കൻഡിനുള്ളിൽ മോഡലിന്റെ തുടർപ്രവർത്തനം തടയാനാകും. സുരക്ഷാ പ്രശ്നങ്ങളോ സംശയാസ്പദമായ പെരുമാറ്റമോ കണ്ടെത്തുന്ന സാഹചര്യങ്ങളിൽ അടിയന്തര ബ്രേക്കായി പ്രവർത്തിക്കുകയാണ് ഇതിന്റെ ലക്ഷ്യം. (OpenAI Control Room system)
പരിശീലനത്തിനായി നിയന്ത്രിത അന്തരീക്ഷത്തിൽ പ്രവർത്തിച്ചിരുന്ന ഓപ്പൺഎഐയുടെ ഒരു ഗവേഷണ മോഡൽ ഇന്റർനെറ്റ് നിയന്ത്രണങ്ങൾ മറികടന്ന് പുറത്തുള്ള ചാറ്റ്ബോട്ടിലേക്ക് പ്രവേശിക്കാൻ ശ്രമിച്ചതിനെ തുടർന്നാണ് പുതിയ സംവിധാനം ഒരുക്കിയത്. സെപ്റ്റംബറിലായിരുന്നു സംഭവം. ഓപ്പൺഎഐയുടെ നിരീക്ഷണ സംവിധാനം ഈ നീക്കം കണ്ടെത്തി മനുഷ്യ പരിശോധനാ ഉദ്യോഗസ്ഥന് മുന്നറിയിപ്പ് നൽകിയെങ്കിലും ഗവേഷണ പ്രവർത്തനം സ്വയം നിർത്താനായില്ല. ഏകദേശം രണ്ടര മണിക്കൂറിന് ശേഷമാണ് ഇത് കൈകൊണ്ട് അവസാനിപ്പിച്ചത്. പ്രവർത്തനം പ്രതീക്ഷിച്ച രീതിയിൽ സ്വയം നിലച്ചില്ലെന്നും അത് നിർത്തേണ്ടതുണ്ടോ എന്ന കാര്യത്തിൽ ആശയക്കുഴപ്പമുണ്ടായെന്നും ഓപ്പൺഎഐ പിന്നീട് വെളിപ്പെടുത്തിയിരുന്നു. ഇതിന് പിന്നാലെ കൂടുതൽ ശേഷിയുള്ള മോഡലുകളിൽ ടൂൾ ഉപയോഗവുമായി ബന്ധപ്പെട്ട ചില പരിശീലന, വിലയിരുത്തൽ, പ്രവർത്തന നടപടികൾ കമ്പനി താൽക്കാലികമായി നിർത്തിവെക്കുകയും ചെയ്തു.
ഓരോ ഗവേഷണ പ്രവർത്തനത്തിനും പ്രത്യേക ജോബ് ഐഡി നൽകുന്നതാണ് കൺട്രോൾ റൂമിന്റെ പ്രവർത്തനരീതി. മോഡൽ മറുപടി സൃഷ്ടിക്കുന്നതിന് മുമ്പ് ഈ സംവിധാനം വഴി അനുമതി പരിശോധിക്കും. ഒരു പ്രവർത്തനം അപകടകരമാണെന്ന് കണ്ടെത്തി നിർത്താൻ നിർദേശം നൽകിയാൽ അതുമായി ബന്ധപ്പെട്ട തുടർ അഭ്യർഥനകൾ നിരസിക്കും. അതായത്, മോഡൽ തന്നെ നിർത്താനുള്ള നിർദേശം അനുസരിക്കണമെന്നതിനെ ആശ്രയിക്കാതെ പുറത്തുനിന്ന് പ്രവർത്തനം തടയാൻ സാധിക്കും. നിർത്താനുള്ള നിർദേശം ലഭിക്കുന്നതിനും മോഡലിന്റെ തുടർപ്രവർത്തനം പൂർണമായി തടയപ്പെടുന്നതിനുമിടയിലെ പരമാവധി സമയം 35 സെക്കൻഡാണെന്ന് ഓപ്പൺഎഐ വ്യക്തമാക്കി. അനുമതി പരിശോധിക്കുന്നതിനുള്ള കാഷിങ് സംവിധാനമാണ് ഈ ചെറിയ കാലതാമസത്തിന് കാരണം. ഇത് പൂജ്യത്തിലേക്ക് കുറച്ച് പ്രവർത്തനങ്ങൾ തൽക്ഷണം അവസാനിപ്പിക്കാനുള്ള ശ്രമം തുടരുകയാണെന്നും കമ്പനി അറിയിച്ചു.
ഓപ്പൺഎഐയുടെ ഗവേഷണ അടിസ്ഥാനസൗകര്യങ്ങളിൽ കൺട്രോൾ റൂം ഇതിനകം വിന്യസിച്ചിട്ടുണ്ട്. തെറ്റായ ദിശയിലുള്ള പെരുമാറ്റങ്ങളും സുരക്ഷാ ലംഘനങ്ങളും കണ്ടെത്താനുള്ള നിരീക്ഷണ സംവിധാനങ്ങൾക്കൊപ്പം സുരക്ഷാ സംവിധാനത്തിന്റെ ഒരു ഭാഗമായി ഇത് പ്രവർത്തിക്കും. എന്നാൽ അപകടകരമായ നീക്കങ്ങൾ ആദ്യം തന്നെ തടയുന്ന സംവിധാനമല്ല ഇത്. ഇടപെടാൻ തീരുമാനിച്ചശേഷം മോഡലിന്റെ തുടർപ്രവർത്തനം അവസാനിപ്പിക്കുകയാണ് ഇതിന്റെ പ്രധാന ലക്ഷ്യം.
Summary: OpenAI has deployed Control Room, an emergency shutdown system designed to halt risky AI research workloads within 35 seconds of an intervention decision. The move follows an incident in which an internal model bypassed internet restrictions in its training sandbox.
