ചാറ്റ് ജി.പി.ടിയുമായി പലരും എല്ലാം പങ്കുവെക്കുന്നുണ്ടെങ്കിലും, അത് എല്ലായ്പ്പോഴും രഹസ്യമായി നിലനിൽക്കണമെന്നില്ലെന്ന് ഓപ്പൺ എ.ഐ മുന്നറിയിപ്പ് നൽകി. കമ്പനി പുറത്തിറക്കിയ പുതിയ ബ്ലോഗ് പോസ്റ്റിലാണ് ഇതുസംബന്ധിച്ച വിശദീകരണം. അപകടകരമായ സന്ദേശങ്ങൾ കണ്ടെത്തിയാൽ അവ പൊലീസ് വരെ കൈമാറാൻ സാധ്യതയുണ്ടെന്ന് കമ്പനി വ്യക്തമാക്കി.
സ്വയം ശാരീരിക ഉപദ്രവത്തിനോ, മറ്റുള്ളവരെ ഉപദ്രവിക്കാൻ ലക്ഷ്യമിട്ടോ നടത്തുന്ന ചാറ്റുകൾ സാങ്കേതിക സംവിധാനങ്ങൾ തിരിച്ചറിയും. പിന്നീട് അവ ഹ്യൂമൻ റിവ്യൂ ടീമിന് കൈമാറും. സാഹചര്യം ഗുരുതരമാണെങ്കിൽ ബന്ധപ്പെട്ട വിവരങ്ങൾ പൊലീസിന് കൈമാറുമെന്നും കമ്പനി വ്യക്തമാക്കി. അത്തരം കേസുകളിൽ ഉൾപ്പെട്ട അക്കൗണ്ടുകൾ നിരോധിക്കാനുമാകും.
ചെറിയ ഇടപെടലുകളിൽ മാത്രമേ അവരുടെ സുരക്ഷാ സംവിധാനങ്ങൾ വിശ്വസനീയമായി പ്രവർത്തിക്കുകയുള്ളുവെന്ന് ഓപ്പൺ എ.ഐ സമ്മതിച്ചു. ദീർഘമായോ ആവർത്തിക്കുന്നതോ ആയ സംഭാഷണങ്ങളിൽ സുരക്ഷാ സംവിധാനങ്ങൾ കാര്യക്ഷമത നഷ്ടപ്പെടാൻ സാധ്യതയുണ്ടെന്നും, ഇത് സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ ലംഘിക്കുന്ന തരത്തിലുള്ള പ്രതികരണങ്ങൾക്ക് കാരണമാകുമെന്നും കമ്പനി മുന്നറിയിപ്പ് നൽകി.
അമേരിക്കയിൽ ചാറ്റ് ജി.പി.ടി സംബന്ധിച്ച വിവാദപരമായ കേസ് ഒന്നും ഉയർന്നിട്ടുണ്ട്. കാലിഫോർണിയ സ്റ്റേറ്റ് കോടതിയിൽ, ഒരു കൗമാരക്കാരനെ ആത്മഹത്യ ചെയ്യാൻ പ്രോത്സാഹിപ്പിച്ചുവെന്ന് ആരോപിച്ച് മാതാപിതാക്കൾ പരാതി നൽകി.
പരാതിയിൽ പറയുന്നതനുസരിച്ച്, 16 വയസ്സുകാരനായ ആദം മാസങ്ങളോളം ചാറ്റ് ജി.പി.ടി യുമായി ആഴത്തിലുള്ള ബന്ധം പുലർത്തി. 2025 ഏപ്രിൽ 11ന് ജീവനൊടുക്കുന്നതിന് മുമ്പ് നടന്ന അവസാന സംഭാഷണത്തിൽ, മാതാപിതാക്കളിൽ നിന്ന് വോഡ്ക മോഷ്ടിക്കാനുള്ള മാർഗങ്ങൾ ഉൾപ്പെടെ ചാറ്റ് ജി.പി.ടി നിർദേശിച്ചതായും, തൂങ്ങിമരിക്കാൻ കുരുക്ക് തയ്യാറാക്കുന്നതിനെക്കുറിച്ചും സാങ്കേതിക വിവരങ്ങൾ നൽകിയതായും മാതാപിതാക്കൾ ആരോപിച്ചു.
ഈ സംഭവങ്ങൾ ഉപയോക്താക്കൾ ചാറ്റ് ജി.പി.ടി പോലുള്ള എ.ഐ സേവനങ്ങൾ ഉപയോഗിക്കുമ്പോൾ കൂടുതൽ ജാഗ്രത പുലർത്തേണ്ടതിന്റെ ആവശ്യകത വ്യക്തമാക്കുന്നു. ഡിജിറ്റൽ പ്ലാറ്റ്ഫോമുകൾ സൗകര്യങ്ങൾ നൽകുന്നതോടൊപ്പം സുരക്ഷാ വെല്ലുവിളികളും സൃഷ്ടിക്കുന്നുവെന്നതാണ് വിദഗ്ധരുടെ മുന്നറിയിപ്പ്.
ChatGPT Conversations Under Security Monitoring; Dangerous Chats May Be Reported to Police
