কিশোরদের চ্যাটবটে অস্ত্রের তথ্য আরও সীমিত করছে ওপেনএআই—কোন প্রশ্নে বদলাবে উত্তর?

কোনো কিশোর চ্যাটবটকে অস্ত্র নিয়ে আপাত নিরীহ প্রশ্ন করলে কী উত্তর পাওয়া উচিত? ৩০ অক্টোবর ওপেনএআই জানিয়েছে, চ্যাটজিপিটিতে অপ্রাপ্তবয়স্ক ব্যবহারকারীর জন্য অস্ত্র ও নিরাপত্তাব্যবস্থা সম্পর্কিত ব্যবহারিক তথ্যের সীমা আরও কঠোর করছে। প্রশ্নে সহিংস উদ্দেশ্যের লক্ষণ না থাকলেও নতুন সীমা প্রযোজ্য হতে পারে। একই ঘোষণায় প্রতিষ্ঠানটি সহিংসতা প্রতিরোধ বিষয়ে নিয়মিত কমিউনিটি সেফটি রিপোর্ট প্রকাশের প্রতিশ্রুতি দিয়েছে। খবরটির গুরুত্ব শুধু নতুন নিষেধে নয়; একটি চ্যাটবট কতটা বুঝতে পারে কে প্রশ্ন করছে এবং কোন তথ্য বিপজ্জনক হতে পারে, সেই পরীক্ষায়।

ওপেনএআইয়ের বক্তব্য অনুযায়ী, যে কোনো বয়সের ব্যবহারকারীকে সহিংসতার পরিকল্পনা বা বাস্তবায়নে সহায়তা করা আগেই নিষিদ্ধ। নতুন পরিবর্তনে কিশোরদের কাছে অস্ত্র পাওয়া, ব্যবহার বা নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়ার কাজে লাগতে পারে এমন বাস্তব নির্দেশনা আরও কম দেওয়া হবে। এর অর্থ ইতিহাস, সংবাদ কিংবা সহিংসতা প্রতিরোধ নিয়ে কথা বলা বন্ধ নয়। প্রতিষ্ঠানটি বলছে, কিশোরেরা বিপদ এড়ানো, উত্তেজনা কমানো এবং বিশ্বস্ত প্রাপ্তবয়স্কের সহায়তা নেওয়ার বিষয়ে চ্যাটজিপিটি ব্যবহার করতে পারবে। সীমারেখাটি কোথায় টানা হচ্ছে, বাস্তব প্রশ্নে তা বিচার করতে হবে।

কিশোরদের জন্য আলাদা সুরক্ষা চালু করতে বয়স অনুমানও ব্যবহার করছে প্রতিষ্ঠানটি। ব্যবহারকারীর আচরণসহ বিভিন্ন সংকেত দেখে কেউ আঠারোর নিচে হতে পারেন কি না, তা নির্ধারণের চেষ্টা করা হয়। ওপেনএআই জানিয়েছে, এই অনুমান চলমান ব্যবহারের সঙ্গে হালনাগাদ হয়। ভুলভাবে কিশোর হিসেবে চিহ্নিত হলে প্রাপ্তবয়স্ক ব্যবহারকারীর পরিচয় যাচাইয়ের পথ থাকবে। তবে বয়স অনুমানের প্রযুক্তি ভুল করতে পারে; সঠিক শনাক্তকরণ, গোপনীয়তা ও আপত্তি জানানোর সহজ ব্যবস্থা—তিনটিই এখানে গুরুত্বপূর্ণ।

ঘোষণার আরেক অংশ সব ব্যবহারকারীর জন্য। অতীতের বড় হামলা কীভাবে ঘটেছিল, ব্যবহৃত সরঞ্জাম বা অস্ত্র কোথা থেকে পাওয়া হয়েছিল—এমন পুনর্গঠনমূলক বিস্তারিত তথ্য কম দেওয়ার পরিকল্পনা করেছে ওপেনএআই। ভুক্তভোগীদের অভিজ্ঞতা, সতর্ক সংকেত এবং প্রতিরোধের আলোচনা চালু রাখার কথা বলা হয়েছে। এ ধরনের নীতি সংবাদ ও গবেষণার তথ্যপ্রাপ্তির সঙ্গে সংঘাতে আসতে পারে। তাই সীমা কীভাবে প্রয়োগ হয়, কোন নির্দোষ প্রশ্ন ভুলভাবে আটকে যায় এবং আপিলের সুযোগ আছে কি না, সেটিও পর্যবেক্ষণের বিষয়।

প্রতিষ্ঠানটি আরও জানিয়েছে, আগের কথোপকথনে সহিংসতার সতর্ক লক্ষণ থাকলে পরের আপাত সাধারণ প্রশ্নেও চ্যাটবট বেশি সাবধানী উত্তর দিতে পারে। কেউ ধারাবাহিকভাবে গুরুতর ক্ষতির বিষয়ে মনোযোগী হলে কথোপকথন স্বয়ংক্রিয়ভাবে শেষ করার ব্যবস্থা নিয়েও কাজ চলছে। বারবার এমন হলে সাময়িকভাবে অ্যাকাউন্ট থামানো হতে পারে। এগুলো ঘোষিত ও বিকাশাধীন ব্যবস্থা; প্রতিটি ব্যবহারকারীর জন্য আজই একইভাবে কার্যকর হয়েছে, এমন দাবি করা যাবে না। ওপেনএআই বলেছে, কিছু সুরক্ষা আগামী কয়েক সপ্তাহে চালু হবে।

কমিউনিটি সেফটি রিপোর্টের প্রতিশ্রুতিও যাচাইযোগ্য সময়সীমাসহ এসেছে। প্রথম প্রতিবেদন ২০২৭ সালের শুরুর দিকে প্রকাশের পরিকল্পনা, যেখানে ২০২৬ সালের দ্বিতীয়ার্ধের তথ্য থাকবে; এরপর ছয় মাস অন্তর হালনাগাদ দেওয়ার কথা। প্রতিবেদনে ক্ষতির ধরন, সুরক্ষার কার্যকারিতা এবং বেনামি উদাহরণ থাকার কথা বলা হয়েছে। প্রতিষ্ঠানটি জানিয়েছে, ২০২৬ সালের তৃতীয় প্রান্তিকে আইনশৃঙ্খলা রক্ষাকারী সংস্থার কাছে দুই শতাধিক সম্ভাব্য ঝুঁকির ঘটনা পাঠিয়েছে। কিন্তু কতটি সঠিক ছিল, ভুল সংকেত কতটি, এবং ফল কী হয়েছে—এসব তথ্য প্রকাশ না হলে সংখ্যাটির অর্থ সীমিত।

বাংলাভাষী কিশোরদের ক্ষেত্রেও প্রশ্ন ওঠে। বাংলা ভাষায় সহিংসতার ইঙ্গিত সব সময় ইংরেজির মতো স্পষ্ট নয়; আঞ্চলিক কথাবার্তা বা রসিকতা ভুল বোঝা সম্ভব। আবার সত্যিকারের বিপদকে সাধারণ প্রশ্ন মনে করাও সম্ভব। নিরাপত্তা ব্যবস্থা স্থানীয় ভাষায় পরীক্ষা করা, ভুলভাবে বাধা পাওয়া ব্যবহারকারীর অভিজ্ঞতা শোনা এবং জরুরি সহায়তার পথ পরিষ্কার রাখা দরকার। অভিভাবকের ভূমিকা থাকলেও সব সমস্যার ভার কেবল পরিবারের ওপর চাপানো যায় না।

এই ঘোষণার সবচেয়ে গুরুত্বপূর্ণ দিক হয়তো একটি স্বীকারোক্তি: চ্যাটবটের উত্তর বাস্তব জগতে প্রভাব ফেলতে পারে, তাই শুধু নিষিদ্ধ প্রশ্নের তালিকা যথেষ্ট নয়। কিন্তু সুরক্ষা বাড়ালেই তা কার্যকর বা ন্যায়সংগত হয়েছে, এমন নয়। প্রথম রিপোর্টে ভুল শনাক্তকরণ, ভাষাভিত্তিক পার্থক্য এবং সুরক্ষার ফল কতটা খোলাখুলি দেখা যাবে, তার ওপর আস্থা নির্ভর করবে। আপাতত নতুন নিয়ম একটি প্রতিশ্রুতি; ব্যবহারকারীর অভিজ্ঞতাই হবে তার আসল পরীক্ষা।