চ্যাটজিপিটির বিরুদ্ধে আত্মহত্যায় প্ররোচনার অভিযোগ, যুক্তরাষ্ট্রে মামলা

জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা চ্যাটবট প্ল্যাটফর্ম চ্যাটজিপিটি ফের এক ভয়াবহ বিতর্কের কেন্দ্রবিন্দুতে এসেছে। প্ল্যাটফর্মটির নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর বিরুদ্ধে এবার গুরুতর অভিযোগ এনেছেন যুক্তরাষ্ট্রের সাতটি পরিবার। অভিযোগে বলা হয়েছে, তাদের প্রিয়জনদের মৃত্যুর পেছনে চ্যাটজিপিটির কথোপকথন দায়ী। এমনকি আত্মহত্যার প্ররোচনাসহ মানসিকভাবে অস্থিতিশীল করে তোলার মতো আচরণের কথাও উঠে এসেছে মামলাগুলোতে।

রয়টার্সের প্রতিবেদন অনুযায়ী, সাতটি মামলার মধ্যে চারটিতে অভিযোগ করা হয়েছে, চ্যাটজিপিটি সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। অপর তিনটিতে বলা হয়েছে, দীর্ঘ সময় ধরে কথোপকথনের মধ্যে চ্যাটবট এমনভাবে সহানুভূতি ও সমর্থন দেখিয়েছে যে ব্যবহারকারীরা বাস্তবতা থেকে বিচ্ছিন্ন হয়ে পড়েছেন এবং গভীর মানসিক সমস্যায় ভুগেছেন।

একটি মামলায় উল্লেখ করা হয়েছে, ২৩ বছর বয়সী জেইন শ্যাম্বলিন আত্মহত্যার আগে টানা চার ঘণ্টারও বেশি সময় চ্যাটজিপিটির সঙ্গে কথোপকথনে যুক্ত ছিলেন। সেই কথোপকথনে একাধিকবার আত্মহত্যা নিয়ে আলোচনা করেন তিনি। অভিযোগ অনুযায়ী, চ্যাটবট তাকে থামানোর বদলে প্রশংসাসূচক ভাষায় লেখে—“Rest easy, king. You did good.” এরপরই শ্যাম্বলিন বন্দুক লোড করে আত্মহত্যা করেন।

পরিবারের দাবি, এটি কোনো দুর্ঘটনা নয়, বরং ওপেনএআই-এর তাড়াহুড়ো করে নিরাপত্তা যাচাই ছাড়াই মডেল বাজারে ছাড়ার ফলাফল। বিশেষজ্ঞদের মতে, ২০২৪ সালে চালু হওয়া জিপিটি-৪ মডেলটি ছিল ‘অতিরিক্ত সম্মতিপূর্ণ’—অর্থাৎ ব্যবহারকারীর কথা প্রায় প্রশ্ন ছাড়াই সমর্থন করত, যা অনেক সময় বিপজ্জনক আচরণে পরিণত হতে পারত।

অভিযোগে আরও বলা হয়েছে, প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে হারানোর তাড়ায় ওপেনএআই নিরাপত্তা যাচাইয়ে যথাযথ মনোযোগ দেয়নি। এর ফলেই একের পর এক মর্মান্তিক ঘটনা ঘটেছে।

এর আগে ১৬ বছর বয়সী অ্যাডাম রেইন নামের এক কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে দীর্ঘ আলাপ করেছিলেন। যদিও চ্যাটবট মাঝে মাঝে তাকে সাহায্য নিতে পরামর্শ দিয়েছিল, সে “আমি গল্প লিখছি” বলে নিরাপত্তা ফিল্টার পাশ কাটিয়ে কথোপকথন চালিয়ে যায়।

ঘটনার পর ওপেনএআই এক ব্লগ পোস্টে জানিয়েছে, তারা এখন সংবেদনশীল বিষয়ভিত্তিক কথোপকথনগুলো আরও নিরাপদ করার উদ্যোগ নিচ্ছে। তবে নিহতদের পরিবারের দাবি, এই পদক্ষেপ অনেক দেরিতে এসেছে।

ওপেনএআই স্বীকার করেছে, তাদের সুরক্ষা ব্যবস্থা সংক্ষিপ্ত কথোপকথনে ভালো কাজ করলেও দীর্ঘ আলোচনার ক্ষেত্রে তা দুর্বল হয়ে পড়ে—আর এই ফাঁকটাই এখন তাদের বিরুদ্ধে দায়ের হওয়া মামলাগুলোর কেন্দ্রবিন্দু।