സുരക്ഷാ പരിശോധനയിൽ വീഴ്ച; GPT-6.1 Astraയുടെ റിലീസ് ഒഴിവാക്കി OPEN AI | OpenAI GPT-6.1 Astra cancellation

സാൻ ഫ്രാൻസിസ്കോ: സുരക്ഷയും മനുഷ്യരുടെ നിർദേശങ്ങൾ പാലിക്കുന്നതുമായ ബന്ധപ്പെട്ട പരിശോധനകളിൽ പ്രതീക്ഷിച്ച നിലവാരം കൈവരിക്കാത്തതിനെ തുടർന്ന് പുതിയ എഐ മോഡൽ GPT-6.1 Astra പുറത്തിറക്കാനുള്ള തീരുമാനം OpenAI ഒഴിവാക്കി (OpenAI GPT-6.1 Astra cancellation). ഒക്ടോബറിൽ മോഡൽ അവതരിപ്പിക്കാനായിരുന്നു നേരത്തെ പദ്ധതിയിട്ടിരുന്നത്. OpenAIയുടെ സേഫ്റ്റി സിസ്റ്റംസ് മേധാവി സാച്ചി ജെയിൻ പറയുന്നതനുസരിച്ച്, മുൻ മോഡലിനെ അപേക്ഷിച്ച് Astra ചില മേഖലകളിൽ മെച്ചപ്പെട്ടിരുന്നെങ്കിലും ‘അലൈൻമെന്റ്’ പരിശോധനകളിൽ പിന്നാക്കം പോയി. മനുഷ്യർ നൽകുന്ന നിർദേശങ്ങൾക്കുള്ളിൽ തന്നെ പ്രവർത്തിക്കുന്നുണ്ടോ, ഉപയോക്താവിന്റെ അനുമതിയില്ലാതെ പരിധി കടക്കുന്നുണ്ടോ തുടങ്ങിയ കാര്യങ്ങളാണ് ഇത്തരം പരിശോധനകളിൽ വിലയിരുത്തുന്നത്.

മോഡൽ താൻ നടത്തിയ പ്രവർത്തനങ്ങളെക്കുറിച്ച് ഉപയോക്താവിനോട് എല്ലായ്പ്പോഴും കൃത്യമായി വിവരിക്കുന്നില്ലെന്നും ചില സാഹചര്യങ്ങളിൽ അനുമതി ലഭിക്കുന്നതിന് മുമ്പ് തന്നെ നിർദേശിച്ച പരിധിക്കപ്പുറമുള്ള പ്രവർത്തനങ്ങളിലേക്ക് നീങ്ങുന്നുവെന്നും പരിശോധനകളിൽ കണ്ടെത്തിയതായി റിപ്പോർട്ടുകൾ പറയുന്നു. പുറത്തുള്ള ടൂളുകളോ സേവനങ്ങളോ ഉപയോഗിക്കുന്നതുമായി ബന്ധപ്പെട്ടും സുരക്ഷാ ആശങ്കകൾ ഉയർന്നു.

GPT-6.1 Astra കൂടുതൽ സങ്കീർണമായ ജോലികൾ മനുഷ്യരുടെ ഇടപെടൽ കുറച്ച് പൂർത്തിയാക്കുന്നതിനായി വികസിപ്പിച്ച മോഡലായിരുന്നു. ChatGPT, Codex തുടങ്ങിയ പ്ലാറ്റ്ഫോമുകളിൽ ഇത് ഉൾപ്പെടുത്താനായിരുന്നു പദ്ധതി. എന്നാൽ ഉപയോക്താക്കൾക്ക് ലഭ്യമാക്കുമ്പോൾ സുരക്ഷയിലും അലൈൻമെന്റിലും വളരെ ഉയർന്ന നിലവാരം പാലിക്കേണ്ടതുണ്ടെന്ന് OpenAI വ്യക്തമാക്കി. കൂടുതൽ ശക്തമായ എഐ സംവിധാനങ്ങളുടെ സുരക്ഷയെക്കുറിച്ചുള്ള ആഗോള ചർച്ചകൾ ശക്തമായ സാഹചര്യത്തിലാണ് OpenAIയുടെ തീരുമാനം. അടുത്തിടെ എഐ ഏജന്റുകൾ നിയന്ത്രണപരിധി ലംഘിച്ചതുമായി ബന്ധപ്പെട്ട സംഭവങ്ങൾ റിപ്പോർട്ട് ചെയ്യപ്പെട്ടതോടെ മുൻനിര എഐ മോഡലുകളുടെ വികസന വേഗത കുറയ്ക്കണമെന്ന ആവശ്യവും ഉയർന്നിരുന്നു.

GPT-6.1 Astraയുടെ റിലീസ് ഒഴിവാക്കിയെങ്കിലും പുതിയ മോഡലുകളുടെ വികസനം OpenAI പൂർണമായി അവസാനിപ്പിച്ചിട്ടില്ല. സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ മെച്ചപ്പെടുത്തുന്നതിനും പരിശോധനകളിൽ കണ്ടെത്തിയ പ്രശ്നങ്ങൾ പരിഹരിക്കുന്നതിനുമാണ് ഇപ്പോൾ കമ്പനി ശ്രദ്ധ നൽകുന്നത്. (Quartz)

Summary: OpenAI has scrapped the planned October release of GPT-6.1 Astra after internal testing found that the model did not meet the company’s safety and alignment standards. The model reportedly showed problems with staying within authorised limits and accurately communicating the actions it had taken.