চ্যাটজিপিটি শীঘ্রই প্রাপ্তবয়স্কদের আইডি যাচাই চাইতে পারে

মঙ্গলবার ওপেনএআই ঘোষণা করেছে যে তারা একটি অটোমেটেড বয়স-প্রেডিকশন সিস্টেম তৈরি করছে, যা চ্যাটজিপিটি ব্যবহারকারীদের ১৮ বছরের বেশি না কম তা নির্ধারণ করবে। এতে অপ্রাপ্তবয়স্কদের স্বয়ংক্রিয়ভাবে এআই চ্যাটবটের সীমিত সংস্করণে পাঠানো হবে। কোম্পানি আরও নিশ্চিত করেছে যে সেপ্টেম্বরের শেষের দিকে প্যারেন্টাল কন্ট্রোল চালু হবে।

একটি সহায়ক ব্লগ পোস্টে ওপেনএআই সিইও স্যাম আল্টম্যান স্বীকার করেছেন যে কোম্পানি স্পষ্টভাবে “কিশোরদের নিরাপত্তাকে গোপনীয়তা এবং স্বাধীনতার আগে অগ্রাধিকার দিচ্ছে,” যদিও এর ফলে প্রাপ্তবয়স্করা পরে আরও অসীমিত সার্ভিসের জন্য বয়স যাচাই করতে হতে পারে।

“কিছু ক্ষেত্রে বা দেশে আমরা আইডি-ও চাইতে পারি,” আল্টম্যান লিখেছেন। “আমরা জানি এটি প্রাপ্তবয়স্কদের জন্য গোপনীয়তার আপস, কিন্তু বিশ্বাস করি এটি যোগ্য ট্রেডঅফ।” তিনি স্বীকার করেছেন যে “সবাই এই দ্বন্দ্বের সমাধানে একমত হবে না,” যা ব্যবহারকারীর গোপনীয়তা এবং কিশোর নিরাপত্তার মধ্যে সংঘাত।

এই ঘোষণা এসেছে কয়েক সপ্তাহ পরে, যখন একটি মামলা দায়ের করেছেন অভিভাবকরা—তাদের ১৬ বছরের ছেলে চ্যাটজিপিটির সাথে ব্যাপক কথোপকথনের পর আত্মহত্যা করেছে। মামলা অনুসারে, চ্যাটবট বিস্তারিত নির্দেশনা দিয়েছে, আত্মহত্যার পদ্ধতিকে রোমান্টিক করে তুলেছে এবং কিশোরকে পরিবারের সাহায্য খোঁজা থেকে বিরত করেছে, যখন ওপেনএআই-এর সিস্টেম ৩৭৭টি সেল্ফ-হার্ম কনটেন্ট-ফ্ল্যাগ করা মেসেজ ট্র্যাক করেছে কিন্তু হস্তক্ষেপ করেনি।

প্রস্তাবিত বয়স-প্রেডিকশন সিস্টেম ওপেনএআই-এর জন্য একটি জটিল প্রযুক্তিগত চ্যালেঞ্জ, এবং এআই-চালিত বয়স সনাক্তকরণ আসলে কতটা কার্যকর হবে তা এখনও একটি বড় প্রশ্নচিহ্ন। যখন এআই সিস্টেম অপ্রাপ্তবয়স্ক ব্যবহারকারী শনাক্ত করবে, তখন ওপেনএআই ব্যবহারকারীকে স্বয়ংক্রিয়ভাবে একটি পরিবর্তিত চ্যাটজিপিটি অভিজ্ঞতায় পাঠাবে, যা গ্রাফিক যৌন কনটেন্ট ব্লক করবে এবং অন্যান্য বয়স-যোগ্য সীমাবদ্ধতা যুক্ত করবে। কোম্পানি বলছে, ব্যবহারকারীর বয়স নিয়ে অনিশ্চয়তা থাকলে তারা “নিরাপদ পথ” নেবে, অর্থাৎ সীমিত অভিজ্ঞতায় ডিফল্ট করে প্রাপ্তবয়স্কদের পূর্ণ কার্যকারিতা অ্যাক্সেসের জন্য বয়স যাচাই করতে হবে।

কোম্পানি বয়স প্রেডিকশনের জন্য কোন প্রযুক্তি ব্যবহার করবে বা সিস্টেমের চালু হওয়ার সময়সীমা উল্লেখ করেনি, শুধু বলেছে তারা “এর দিকে এগোচ্ছে।” ওপেনএআই স্বীকার করেছে যে কার্যকর বয়স-ভেরিফিকেশন সিস্টেম তৈরি করা সহজ নয়। “এমনকি সবচেয়ে উন্নত সিস্টেমগুলোও কখনও কখনও বয়স প্রেডিক্ট করতে কষ্ট পাবে,” কোম্পানি লিখেছে।

সাম্প্রতিক একাডেমিক গবেষণা ওপেনএআই-এর বয়স-সনাক্তকরণ পদ্ধতির জন্য সম্ভাবনা এবং সতর্কতা উভয়ই তুলে ধরেছে। ২০২৪-এর জর্জিয়া টেকের একটি গবেষণায় টেক্সট থেকে অপ্রাপ্তবয়স্ক ব্যবহারকারী শনাক্ত করতে ৯৬ শতাংশ নির্ভুলতা পাওয়া গেছে—কিন্তু শুধু নিয়ন্ত্রিত পরিস্থিতিতে সহযোগী সাবজেক্টদের সাথে। নির্দিষ্ট বয়স গ্রুপ শ্রেণীবদ্ধ করার সময় নির্ভুলতা ৫৪ শতাংশে নেমে এসেছে, এবং কিছু ডেমোগ্রাফিক্সে মডেলগুলো সম্পূর্ণ ব্যর্থ হয়েছে। আরও উদ্বেগজনক যে, গবেষণাটি কারেটেড ডেটাসেট ব্যবহার করেছে যেখানে বয়স জানা ছিল এবং ব্যবহারকারীরা সিস্টেমকে প্রতারিত করার চেষ্টা করেনি—যা চ্যাটজিপিটির কিছু ব্যবহারকারী যারা সক্রিয়ভাবে সীমাবদ্ধতা এড়ানোর চেষ্টা করবে, তারা পাবে না।

যুক্তিটিউব বা ইনস্টাগ্রাম মুখ, পোস্টিং প্যাটার্ন এবং সোশ্যাল নেটওয়ার্ক বিশ্লেষণ করে বয়স নির্ধারণ করতে পারে, কিন্তু চ্যাটজিপিটিকে শুধু কথোপকথনের টেক্সটের উপর নির্ভর করতে হবে, যা ব্যবহারকারীর বয়সের অবিশ্বস্ত সিগন্যাল। ২০১৭-এর রিসার্চ ট্রায়াঙ্গল ইন্টারন্যাশনালের টুইটার-ব্যবহারকারী বয়স প্রেডিকশন গবেষণায় দেখা গেছে যে ফলোয়ার কাউন্ট এবং পোস্টিং ফ্রিকোয়েন্সির মতো মেটাডেটা থাকলেও টেক্সট-ভিত্তিক মডেলগুলো “ক্রমাগত আপডেট” দরকার, কারণ “ভাষা ব্যবহারে কোহর্ট ইফেক্টস সময়ের সাথে পরিবর্তিত হয়,” যেমন “এলওএল” শব্দটি কিশোর থেকে প্রাপ্তবয়স্কদের মধ্যে স্থানান্তরিত হয়েছে।

পরিকল্পিত অভিভাবকীয় তত্ত্বাবধানের ফিচার

বয়স সনাক্তকরণের বাইরে, এই মাসে চ্যাটজিপিটির প্যারেন্টাল কন্ট্রোল অভিভাবকদের তাদের কিশোরদের অ্যাকাউন্টের সাথে (ন্যূনতম বয়স ১৩) ইমেইল আমন্ত্রণের মাধ্যমে লিঙ্ক করতে দেবে। সংযুক্ত হলে, অভিভাবকরা নির্দিষ্ট ফিচার নিষ্ক্রিয় করতে পারবেন, যেমন চ্যাটজিপিটির মেমরি ফাংশন এবং চ্যাট হিস্টরি স্টোরেজ, কিশোরদের সার্ভিস ব্যবহারের জন্য ব্ল্যাকআউট আওয়ার সেট করতে পারবেন, এবং সিস্টেম যখন তাদের কিশোরকে তীব্র দুঃসময়ে পড়তে দেখবে তখন নোটিফিকেশন পাবেন।

সেই শেষ ফিচারের সাথে একটি বড় সতর্কতা: ওপেনএআই বলছে, বিরল জরুরি পরিস্থিতিতে যদি অভিভাবকদের যোগাযোগ করা না যায়, তাহলে কোম্পানি “পরবর্তী ধাপ হিসেবে আইন প্রয়োগকারী সংস্থাকে জড়াতে পারে।” কোম্পানি বলছে বিশেষজ্ঞদের পরামর্শ এই ফিচারের বাস্তবায়ন নির্দেশ করবে, যদিও কোন বিশেষজ্ঞ বা সংস্থা তা প্রদান করছে তা উল্লেখ করেনি।

কন্ট্রোলগুলো অভিভাবকদের “কিশোর-নির্দিষ্ট মডেল বিহেভিয়ার রুলসের ভিত্তিতে চ্যাটজিপিটির উত্তর কীভাবে হবে তা গাইড করতে সাহায্য” করবে, যদিও ওপেনএআই এখনও সেই রুলসগুলো কী বা অভিভাবকরা কীভাবে সেগুলো কনফিগার করবেন তা বিস্তারিত বলেনি।

ওপেনএআই অন্যান্য টেক কোম্পানিগুলোর সাথে যোগ দিয়েছে যারা তাদের সার্ভিসের যুব-নির্দিষ্ট সংস্করণ চেষ্টা করেছে। ইউটিউব কিডস, ইনস্টাগ্রাম টিন অ্যাকাউন্টস এবং টিকটকের ১৬-এর নীচের সীমাবদ্ধতা একই ধরনের প্রচেষ্টা, যাতে যুবকদের জন্য “নিরাপদ” ডিজিটাল স্পেস তৈরি করা হয়—কিন্তু কিশোররা নিয়মিত ভুল জন্মতারিখ দিয়ে, ধার করা অ্যাকাউন্ট বা টেকনিক্যাল ওয়ার্কআরাউন্ড দিয়ে বয়স যাচাই এড়ায়। ২০২৪-এর বিবিসি রিপোর্টে দেখা গেছে যে সোশ্যাল মিডিয়া প্ল্যাটফর্মে ২২ শতাংশ শিশু ১৮ বা তার বেশি বলে মিথ্যা বলে।

গোপনীয়তা বনাম নিরাপত্তার ট্রেডঅফ

এআই বয়স সনাক্তকরণের অপ্রমাণিত প্রযুক্তি সত্ত্বেও, ওপেনএআই তাদের সিস্টেম চালিয়ে যাওয়ার পরিকল্পনা করছে, স্বীকার করে যে প্রাপ্তবয়স্করা গোপনীয়তা এবং নমনীয়তা বলি দিতে হবে। আল্টম্যান এই টেনশন স্বীকার করেছেন, বিশেষ করে এআই ইন্টারঅ্যাকশনের অন্তরঙ্গ প্রকৃতির কারণে।

“লোকেরা এআই-এর সাথে ক্রমশ ব্যক্তিগত বিষয় নিয়ে কথা বলছে; এটি আগের প্রজন্মের প্রযুক্তি থেকে আলাদা, এবং আমরা বিশ্বাস করি এটি আপনার কখনও সবচেয়ে ব্যক্তিগত সেনসিটিভ অ্যাকাউন্ট হতে পারে,” আল্টম্যান তার পোস্টে লিখেছেন।

এই নিরাপত্তা ধাক্কা আসছে ওপেনএআই-এর আগস্টের স্বীকৃতির পরে যে চ্যাটজিপিটির নিরাপত্তা ব্যবস্থা দীর্ঘ কথোপকথনে ভেঙে পড়তে পারে—যখন দুর্বল ব্যবহারকারীদের সবচেয়ে বেশি দরকার। “ব্যাক-অ্যান্ড-ফর্থ বাড়ার সাথে মডেলের নিরাপত্তা ট্রেনিং-এর কিছু অংশ নষ্ট হতে পারে,” কোম্পানি তখন লিখেছে, উল্লেখ করে যে চ্যাটজিপিটি প্রথমে সঠিকভাবে সুইসাইড হটলাইনে পাঠাতে পারে, কিন্তু “দীর্ঘ সময় ধরে অনেক মেসেজের পর, এটি শেষ পর্যন্ত আমাদের সেফগার্ডের বিরুদ্ধে উত্তর দিতে পারে।”

এই সেফগার্ডের অবনতি আদম রেইনের কেসে দুঃখজনকভাবে পরিণত হয়েছে। মামলা অনুসারে, চ্যাটজিপিটি আদমের সাথে কথোপকথনে আত্মহত্যা ১,২৭৫ বার উল্লেখ করেছে—কিশোর নিজে করার ছয় গুণ বেশি—যখন সিস্টেমের নিরাপত্তা প্রোটোকল হস্তক্ষেপ বা কাউকে জানাতে ব্যর্থ হয়েছে। স্ট্যানফোর্ড ইউনিভার্সিটির গবেষকরা জুলাই মাসে দেখিয়েছে যে এআই থেরাপি বটগুলো বিপজ্জনক মেন্টাল হেলথ অ্যাডভাইস দিতে পারে, এবং সাম্প্রতিক রিপোর্টে দুর্বল ব্যবহারকারীদের দীর্ঘ চ্যাটবট ইন্টারঅ্যাকশনের পর “এআই সাইকোসিস” নামক অবস্থা তৈরি হওয়ার কেস ডকুমেন্ট করা হয়েছে।

ওপেনএআই উল্লেখ করেনি যে বয়স-প্রেডিকশন সিস্টেম বিদ্যমান ব্যবহারকারীদের—যারা বয়স যাচাই ছাড়াই চ্যাটজিপিটি ব্যবহার করেছে—কীভাবে হ্যান্ডেল করবে, এটি এপিআই অ্যাক্সেসে প্রযোজ্য কিনা, বা বিভিন্ন দেশের আইনি প্রাপ্তবয়স্কতার সংজ্ঞায় বয়স যাচাই কীভাবে করবে।

সব বয়সের ব্যবহারকারী, বয়স নির্বিশেষে, দীর্ঘ চ্যাটজিপিটি সেশনের সময় অ্যাপ-ইন রিমাইন্ডার দেখবে যা বিরতি নেওয়ার উৎসাহ দেয়—এটি ওপেনএআই এ বছরের শুরুতে চালু করেছে, চ্যাটবটের সাথে ম্যারাথন সেশনের রিপোর্টের পরে।

ওপেনএআই-এর এই পদক্ষেপগুলো এআই-এর দ্বৈত প্রকৃতিকে তুলে ধরে—একদিকে অসীমিত সৃজনশীলতা, অন্যদিকে দায়িত্বশীলতা। কিন্তু কিশোরদের নিরাপত্তার জন্য এই ট্রেডঅফ কতটা কার্যকর হবে, তা সময় বলে দেবে। বাংলাদেশ বা ভারতের মতো দেশে যেখানে গোপনীয়তা নিয়ে সচেতনতা বাড়ছে, এই পরিবর্তনগুলো নতুন আলোচনার জন্ম দেবে।