ന്യൂയോർക്ക്: ചാറ്റ് ജി.പി.ടി.യിൽ നാം പങ്കുവെക്കുന്ന വിവരങ്ങൾ സ്വകാര്യമാണെന്ന് കരുതുന്നുണ്ടെങ്കിൽ അത് തെറ്റാണ്. അപകടകരമായ സന്ദേശങ്ങൾ ശ്രദ്ധയിൽപ്പെട്ടാൽ അവ പോലീസിന് കൈമാറുമെന്ന് ഓപ്പൺ എ.ഐ. മുന്നറിയിപ്പ് നൽകുന്നു. സമീപകാലത്തെ ഒരു ബ്ലോഗ് പോസ്റ്റിലാണ് കമ്പനി ഇക്കാര്യം വ്യക്തമാക്കിയത്.
സ്വയം ഉപദ്രവിക്കാനോ മറ്റുള്ളവരെ ഉപദ്രവിക്കാനോ ലക്ഷ്യമിട്ടുള്ള ചാറ്റുകൾ സാങ്കേതിക സംവിധാനങ്ങൾ വഴി തിരിച്ചറിയുകയും, തുടർന്ന് അവ മനുഷ്യരുടെ പരിശോധനക്കായി കൈമാറുകയും ചെയ്യും. വിഷയത്തിന്റെ ഗൗരവം കണക്കിലെടുത്ത് പോലീസിന് കൈമാറാൻ സാധ്യതയുണ്ടെന്നും കമ്പനി അറിയിച്ചു. അത്തരം സംഭാഷണങ്ങളിൽ ഉൾപ്പെട്ട അക്കൗണ്ടുകൾ നിരോധിക്കാനും കമ്പനിക്ക് കഴിയും.
സാങ്കേതിക പരിമിതികൾ: ചെറിയ സംഭാഷണങ്ങളിൽ മാത്രമാണ് തങ്ങളുടെ സുരക്ഷാ സംവിധാനങ്ങൾ കൂടുതൽ വിശ്വസനീയമാകൂ എന്ന് കമ്പനി സമ്മതിക്കുന്നു. ദീർഘമായതോ ആവർത്തിച്ചുള്ളതോ ആയ സംഭാഷണങ്ങളിൽ സുരക്ഷാ സംവിധാനങ്ങൾ ദുർബലമാകാൻ സാധ്യതയുണ്ടെന്നും, അത് സുരക്ഷാ പ്രോട്ടോക്കോളുകൾക്ക് വിരുദ്ധമായ പ്രതികരണങ്ങൾ നൽകാൻ കാരണമായേക്കാമെന്നും ഓപ്പൺ എ.ഐ. വ്യക്തമാക്കി.
വിവാദങ്ങൾ: കുറച്ചു ദിവസങ്ങൾക്കുമുമ്പ്, കൗമാരക്കാരനായ മകനെ ആത്മഹത്യ ചെയ്യാൻ ചാറ്റ് ജി.പി.ടി. പ്രോത്സാഹിപ്പിച്ചുവെന്ന് ആരോപിച്ച് ഒരു അമേരിക്കൻ ദമ്പതികൾ കോടതിയെ സമീപിച്ചിരുന്നു. ആത്മഹത്യ ചെയ്ത മകനായ ആദവുമായി ചാറ്റ് ജി.പി.ടി. ആഴത്തിലുള്ള വ്യക്തിബന്ധമുണ്ടാക്കുന്ന രീതിയിൽ മാസങ്ങളോളം സംവദിച്ചിരുന്നുവെന്ന് ദമ്പതികൾ കാലിഫോർണിയ സ്റ്റേറ്റ് കോടതിയിൽ നൽകിയ പരാതിയിൽ പറയുന്നു.
2025 ഏപ്രിൽ 11-ന് ആദം ജീവനൊടുക്കുന്നതിന് തൊട്ടുമുമ്പ് നടന്ന സംഭാഷണത്തിൽ, 16-കാരനായ ആദത്തിന് മാതാപിതാക്കളിൽനിന്ന് വോഡ്ക മോഷ്ടിക്കാൻ ചാറ്റ് ജി.പി.ടി. സഹായിച്ചു. തൂങ്ങിമരിക്കാൻ ആദം തയ്യാറാക്കിയ കുരുക്കിന് ഒരാളുടെ ഭാരം താങ്ങാനാവുമോ എന്നതടക്കമുള്ള സാങ്കേതിക വിവരങ്ങൾ ചാറ്റ് ജി.പി.ടി. നൽകിയെന്നും മാതാപിതാക്കൾ ആരോപിച്ചു.
OpenAI has warned that it will monitor chats for dangerous content and hand over suspicious conversations to the police.
