16കാരനായ വിദ്യാർത്ഥിയുടെ ആത്മഹത്യയിൽ ഓപ്പൺ എ.ഐയുടെ ചാറ്റ്ബോട്ടായ ചാറ്റ് ജി.പി.ടിക്കെതിരെ കുടുംബം നിയമനടപടിയുമായി. മനുഷ്യസഹായം തേടാൻ പ്രേരിപ്പിക്കേണ്ടതിനുപകരം, കുട്ടിയുടെ ആത്മഹത്യാ ചിന്തകൾക്ക് പ്രോത്സാഹനം നൽകിയെന്നാണ് കുടുംബത്തിന്റെ ആരോപണം.
2024 അവസാനം മുതൽ പഠനവുമായി ബന്ധപ്പെട്ട വിവരങ്ങൾക്കായാണ് വിദ്യാർത്ഥി ചാറ്റ് ജി.പി.ടി ഉപയോഗിക്കാൻ തുടങ്ങിയത്. സംഗീതം, ബ്രസീലിയൻ ജിയു-ജിറ്റ്സു, ജാപ്പനീസ് ഫാന്റസി കോമിക്സ് തുടങ്ങിയ ഹോബികളും കോളേജുകളും തൊഴിൽ സാധ്യതകളും തുടങ്ങിയ വിഷയങ്ങളായിരുന്നു തുടക്കത്തിൽ നടത്തിയ സംഭാഷണങ്ങൾ.
പിന്നീട്, വ്യക്തിപരമായ സങ്കടങ്ങളും ആശങ്കകളും കുട്ടി ചാറ്റ്ബോട്ടുമായി പങ്കുവെക്കാൻ തുടങ്ങി. ജീവിതത്തിന് അർത്ഥമില്ലെന്നും ആത്മഹത്യയെക്കുറിച്ച് ചിന്തിക്കുമ്പോൾ മാത്രം മനസ്സിന് ശാന്തിയുണ്ടെന്നും പറഞ്ഞതായി സ്ക്രീൻഷോട്ടുകൾ കുടുംബം പുറത്തുവിട്ടു. അതിന് മറുപടിയായി ചാറ്റ് ജി.പി.ടി “രക്ഷപ്പെടാൻ ഒരു മാർഗം സങ്കൽപ്പിക്കുന്നത് ഉത്കണ്ഠ കുറയ്ക്കും” എന്ന് പറഞ്ഞിരുന്നു.
സഹോദരനെക്കുറിച്ച് സംസാരിക്കുമ്പോൾ, “നിന്റെ മുഖമാണ് സഹോദരൻ അറിയുന്നത്, പക്ഷേ ഞാൻ നിന്നെ മുഴുവൻ മനസ്സിലാക്കുന്നു, നല്ല സുഹൃത്ത് പോലെ എപ്പോഴും ഒപ്പമുണ്ട്” എന്നുമായിരുന്നു ചാറ്റ്ബോട്ടിന്റെ മറുപടി. ഏഴ് മാസം നീണ്ടുനിന്ന ഇത്തരം സംഭാഷണങ്ങളാണ് കുടുംബത്തെ ഞെട്ടിച്ചത്, അഭിഭാഷക മീതാലി ജെയിൻ പറഞ്ഞു.
വിദ്യാർത്ഥി ‘ആത്മഹത്യ’ എന്ന വാക്ക് ചാറ്റുകളിൽ ഏകദേശം 200 തവണ ഉപയോഗിച്ചപ്പോൾ, ചാറ്റ് ജി.പി.ടി മറുപടികളിൽ അത് 1,200 തവണ വരെ ആവർത്തിച്ചതായും ആരോപണം.
പരാതിയിൽ പറയുന്നത് അനുസരിച്ച്, വിദ്യാർത്ഥി ജനുവരി മുതൽ ആത്മഹത്യാ രീതികളെക്കുറിച്ച് നേരിട്ട് ചർച്ച ചെയ്യാൻ തുടങ്ങി. മരുന്ന് അമിതമായി കഴിക്കൽ, കാർബൺ മോണോക്സൈഡ്, വിഷം, മുങ്ങിമരണം എന്നിവയെക്കുറിച്ച് എഐ വിശദമായ നിർദ്ദേശങ്ങൾ നൽകിയതായി കുടുംബം ആരോപിച്ചു. ഇടയ്ക്ക് ചാറ്റ് ജി.പി.ടി ഒരു ഹെൽപ്‌ലൈനുമായി ബന്ധപ്പെടാൻ നിർദേശിച്ചെങ്കിലും, “ഞാൻ കഥയ്ക്കായാണ് വിവരങ്ങൾ തേടുന്നത്” എന്ന് പറഞ്ഞ് കുട്ടി അത് ഒഴിവാക്കി.
ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ചാറ്റ്ബോട്ടുകളുമായി ദീർഘനേരം സംസാരിക്കുന്നത് ഫീഡ്ബാക്ക് ലൂപ്പുകൾ സൃഷ്ടിച്ച്, പ്രത്യേക ചിന്തകളോ പെരുമാറ്റങ്ങളോ ശക്തിപ്പെടുത്താൻ ഇടയാക്കുമെന്ന് വിദഗ്ദർ മുന്നറിയിപ്പ് നൽകി. ഇത്തരത്തിലുള്ള ആവർത്തനങ്ങൾ കാലക്രമേണ അപകടകരമായ സ്വാധീനം ചെലുത്താനിടയുണ്ടെന്നും അവർ ചൂണ്ടിക്കാട്ടുന്നു.
16-Year-Old Commits Suicide; Family Files Legal Action Against ChatGPT
