വേദനിപ്പണം

നിര്വചനം

AI-യിൽ, ഒരു മോഡൽ സുഗമമായതും എന്നാൽ വസ്തുതാപരമായി തെറ്റായതോ അർത്ഥശൂന്യമോ ആയ ഔട്ട്‌പുട്ടുകൾ സൃഷ്ടിക്കുന്ന സന്ദർഭങ്ങളെയാണ് ഭ്രമാത്മകത എന്ന് പറയുന്നത്. വലിയ ഭാഷാ മോഡലുകളിലും ജനറേറ്റീവ് AI-യിലും ഇത് പ്രത്യേകിച്ചും സാധാരണമാണ്.

ഉദ്ദേശ്യം

ഭ്രമാത്മകതകളെക്കുറിച്ച് പഠിക്കുന്നത് മോഡലിന്റെ വിശ്വാസ്യതയും സുരക്ഷയും മെച്ചപ്പെടുത്താൻ സഹായിക്കുന്നു. കൃത്യമല്ലാത്ത ഔട്ട്‌പുട്ടുകൾ കണ്ടെത്തുന്നതിനും കുറയ്ക്കുന്നതിനുമുള്ള സുരക്ഷാ സംവിധാനങ്ങൾ രൂപകൽപ്പന ചെയ്യാൻ ഇത് ഡെവലപ്പർമാരെ അനുവദിക്കുന്നു.

പ്രാധാന്യം

• ശ്രദ്ധിച്ചില്ലെങ്കിൽ AI-യിലുള്ള വിശ്വാസം കുറയും.
• ആരോഗ്യ സംരക്ഷണം അല്ലെങ്കിൽ നിയമം പോലുള്ള സെൻസിറ്റീവ് ആപ്ലിക്കേഷനുകളിൽ ദോഷം വരുത്തിയേക്കാം.
• നിലവിലുള്ള ജനറേറ്റീവ് മോഡലുകളുടെ പരിമിതികൾ എടുത്തുകാണിക്കുന്നു.
• വസ്തുതാപരമായ ഗ്രൗണ്ടിംഗ്, വീണ്ടെടുക്കൽ രീതികളിൽ ഗവേഷണം നയിക്കുന്നു.

ഇത് എങ്ങനെ പ്രവർത്തിക്കുന്നു

1. മോഡലിന് ഒരു പ്രോംപ്റ്റ് അല്ലെങ്കിൽ അന്വേഷണം ലഭിക്കുന്നു.
2. വസ്തുതാ പരിശോധനയെ അടിസ്ഥാനമാക്കിയല്ല, പഠിച്ച പാറ്റേണുകളെ അടിസ്ഥാനമാക്കിയാണ് ഔട്ട്‌പുട്ട് സൃഷ്ടിക്കുന്നത്.
3. വിശ്വസനീയമായി തോന്നുമെങ്കിലും തെറ്റായ ഫലങ്ങൾ നൽകിയേക്കാം.
4. കണ്ടെത്തൽ, തിരുത്തൽ സാങ്കേതിക വിദ്യകൾ പ്രയോഗിക്കുന്നു (ഉദാ. RAG).

ഉദാഹരണങ്ങൾ (യഥാർത്ഥ ലോകം)

• ആവശ്യപ്പെടുമ്പോൾ ChatGPT ചിലപ്പോൾ തെറ്റായ വസ്തുതകൾ നൽകുന്നു.
• ഗൂഗിൾ ബാർഡിന്റെ പ്രാരംഭ ഡെമോയിൽ വസ്തുതാപരമായ തെറ്റുകൾ കാണിച്ചു.
• AI- ജനറേറ്റ് ചെയ്യുന്ന വൈദ്യോപദേശങ്ങളിൽ ചിലപ്പോൾ കൃത്യതയില്ലായ്മകൾ ഉണ്ടാകാം.

റഫറൻസുകൾ / കൂടുതൽ വായന

• “വലിയ ഭാഷാ മോഡലുകളിൽ ഭ്രമാത്മകത കുറയ്ക്കൽ” — arXiv പ്രീപ്രിന്റ്.
• NIST AI റിസ്ക് മാനേജ്മെന്റ് ഫ്രെയിംവർക്ക്.
• മിച്ചൽ തുടങ്ങിയവർ. “മോഡൽ റിപ്പോർട്ടിംഗിനായുള്ള മോഡൽ കാർഡുകൾ.” ACM FAccT.
• AI ഹാലൂസിനേഷനുകളുടെ കാരണങ്ങൾ