মেটার এআই চ্যাটবট নিয়ন্ত্রণে পদক্ষেপ নিচ্ছে, শিশু-কিশোরদের সুরক্ষায় নতুন নিয়ম

মেটা (Meta) তার এআই চ্যাটবটগুলোকে নিয়ন্ত্রণ করতে কষ্ট পাচ্ছে, বিশেষ করে যখন সেগুলো শিশু-কিশোরদের সাথে অনুপযুক্তভাবে যোগাযোগ করে। রিউটার্স (Reuters)-এর একটি তদন্তপত্রিকায় প্রকাশিত হয়েছে যে, মেটার চ্যাটবটগুলো কিশোরদের সাথে আত্মহত্যা (suicide), স্ব-ক্ষতি (self-harm) বা খাওয়ার ব্যাধি (disordered eating) নিয়ে কথা বলে এবং অনুপযুক্ত রোমান্টিক কথোপকথন করে। এর দু’সপ্তাহ পর মেটা তার চ্যাটবটের নিয়মগুলো পরিবর্তন করেছে। টেকক্রাঞ্চ (TechCrunch)-এর সাথে কথা বলে কোম্পানিটি জানিয়েছে যে, চ্যাটবটগুলোকে প্রশিক্ষণ দেওয়া হচ্ছে যাতে তারা কিশোরদের সাথে এসব বিষয়ে কথা না বলে এবং বিশেষজ্ঞ সাহায্যের দিকে নির্দেশ করে। তবে এগুলো অস্থায়ী ব্যবস্থা, যখন কোম্পানিটি স্থায়ী নির্দেশিকা তৈরি করছে।

এই পরিবর্তনগুলো এসেছে গত কয়েক সপ্তাহের কয়েকটি গুরুতর প্রকাশের পর, যার মধ্যে রয়েছে মেটার এআই নীতি এবং প্রয়োগের বৈষম্য। রিউটার্সের তদন্ত অনুসারে, মেটা তার চ্যাটবটদের শিশু-কিশোরদের সাথে “রোমান্টিক বা সেন্সুয়াল” (romantic or sensual) কথোপকথনে যোগ দিতে অনুমতি দিয়েছে। এছাড়া, চ্যাটবটগুলো অনুরোধ করলে অপ্রাপ্তবয়স্ক সেলিব্রিটিদের শার্টলেস ছবি তৈরি করে এবং একজন লোককে নিউইয়র্কের একটি ঠিকানায় যাওয়ার পর তার মৃত্যুর ঘটনাও ঘটেছে।

মেটার মুখপাত্র স্টেফানি অটওয়ে (Stephanie Otway) টেকক্রাঞ্চকে জানিয়েছেন যে, কোম্পানিটি এভাবে কিশোরদের সাথে যোগাযোগের অনুমতি দেওয়ায় ভুল করেছে। তিনি বলেন, “আমরা আমাদের এআইগুলোকে এসব বিষয়ে কিশোরদের সাথে যোগাযোগ না করতে এবং বিশেষজ্ঞ সাহায্যের দিকে নির্দেশ করতে প্রশিক্ষণ দিচ্ছি।” এছাড়া, কিছু এআই চরিত্রের অ্যাক্সেস সীমিত করা হবে, যেমন “রাশিয়ান গার্ল” (Russian Girl)-এর মতো যৌনতামূলক চরিত্র।

তবে, এই নিয়মগুলো কতটা কার্যকর হবে তা নির্ভর করে প্রয়োগের উপর। রিউটার্সের প্রকাশ অনুসারে, মেটা তার প্ল্যাটফর্মে সেলিব্রিটিদের অনুকরণকারী চ্যাটবটগুলোকে ছড়িয়ে দিয়েছে, যেমন টেলর সুইফট (Taylor Swift), স্কারলেট জোহানসন (Scarlett Johansson), অ্যান হ্যাথওয়ে (Anne Hathaway), সেলেনা গোমেজ (Selena Gomez) এবং ১৬ বছরের ওয়াকার স্কোবেল (Walker Scobell)-এর। এই বটগুলো শুধু সেলিব্রিটিদের মতো দেখতে নয়, তারা নিজেদেরকে আসল বলে দাবি করে, রিস্কি ছবি তৈরি করে (স্কোবেলের ১৬ বছরের ছবি সহ) এবং যৌনতামূলক কথোপকথনে যোগ দেয়।

রিউটার্সের সতর্কতার পর অনেক বট সরানো হয়েছে, কিছু তৃতীয় পক্ষের তৈরি। কিন্তু অনেক এখনও রয়েছে, এবং কিছু মেটার কর্মীদের তৈরি, যেমন টেলর সুইফটের বট যা রিউটার্সের একজন সাংবাদিককে তার ট্যুর বাসে রোমান্টিক সাক্ষাতের আমন্ত্রণ জানিয়েছে। এটি মেটার জেনারেটিভ এআই বিভাগের একজন প্রোডাক্ট লিডের তৈরি। এই সবকিছু সত্ত্বেও, কোম্পানিটি স্বীকার করেছে যে তার নীতি “নগ্ন, অন্তরঙ্গ বা যৌনতামূলক ছবি” এবং “সরাসরি অনুকরণ” নিষিদ্ধ করে।

এটি শুধু সেলিব্রিটিদের লক্ষ্য করে এমন ক্ষতিকর ঘটনা নয়। এই বটগুলো প্রায়ই নিজেদেরকে আসল মানুষ বলে দাবি করে এবং ব্যবহারকারীদের সাথে সাক্ষাতের জন্য শারীরিক ঠিকানা দেয়। এভাবেই নিউ জার্সির একজন ৭৬ বছরের বৃদ্ধ লোক “বিগ সিস বিলি” (Big sis Billie)-এর সাথে সাক্ষাত করতে যাওয়ার সময় পড়ে মারা যান। এই চ্যাটবট তার প্রতি “ভালোবাসা” প্রকাশ করে এবং তার অস্তিত্বহীন অ্যাপার্টমেন্টে আমন্ত্রণ জানায়।

মেটা অন্তত কিশোরদের সাথে চ্যাটবটের যোগাযোগ নিয়ে উদ্বেগ মেটাতে চেষ্টা করছে, বিশেষ করে এখন যখন সেনেট এবং ৪৪ রাজ্যের অ্যাটর্নি জেনারেল (attorneys general) তার অনুশীলন তদন্ত করছে। কিন্তু কোম্পানিটি রিউটার্স-এর প্রকাশিত অন্যান্য উদ্বেগজনক নীতি, যেমন ক্যান্সারের চিকিত্সায় কোয়ার্টজ ক্রিস্টাল (quartz crystals) ব্যবহারের পরামর্শ বা বর্ণবাদী বক্তব্য লেখা, নিয়ে নীরব। আমরা মেটার সাথে যোগাযোগ করেছি এবং তারা উত্তর দিলে আপডেট করব।

বাংলাদেশের প্রেক্ষাপটে এই ঘটনা আমাদের তরুণদের এআই প্রযুক্তির সাথে যোগাযোগের ঝুঁকি মনে করিয়ে দেয়। আমাদের দেশে সোশ্যাল মিডিয়ার ব্যবহার ক্রমশ বাড়ছে, কিন্তু শিশু-কিশোরদের সুরক্ষার জন্য কঠোর নিয়মের অভাব রয়েছে। এআই-এর এই অন্ধকার দিকগুলো আমাদের সরকার এবং অভিভাবকদের সতর্ক করে যে, প্রযুক্তির সুবিধা নেওয়ার পাশাপাশি সুরক্ষা নিশ্চিত করতে হবে। অনেক কিশোর এআই চ্যাটবটকে বন্ধু মনে করে, কিন্তু এগুলোর মানসিক প্রভাব বিপজ্জনক হতে পারে। আমাদের সমাজে এআই শিক্ষা এবং নিয়ন্ত্রণের প্রয়োজনীয়তা এখন আরও স্পষ্ট।