বিশ্বের ৮০ কোটি মানুষ নির্ভরযোগ্য কথোপকথনমূলক টুল হিসেবে ওপেনএআইয়ের জনপ্রিয় চ্যাটবট চ্যাটজিপিটি ব্যবহার করেন। তবে ওয়াশিংটন পোস্টের সাম্প্রতিক প্রতিবেদন অনুযায়ী, শক্তিশালী এ এআই চ্যাটবটটি ব্যবকারকারীর সঙ্গে আলাপচারিতার সময় ‘না’-এর চেয়ে ‘হ্যাঁ’ অনেক বেশি বলে। চ্যালেঞ্জ বা সংশোধন করার তুলনায় ব্যবহারকারীর বক্তব্যের সঙ্গে একমত হওয়ার প্রবণতা চ্যাটজিপিটিতে প্রায় ১০ গুণ বেশি। খবর ইন্ডিয়া টুডে।
৪৭ হাজারেরও বেশি কথোপকথন বিশ্লেষণ করা এ প্রতিবেদনে বলা হয়েছে, চ্যাটবটটি একধরনের ‘দাসসুলভ’ আচরণ করে। ব্যবহারকারীকে সন্তুষ্ট করতে বেশির ভাগ বিষয়েই সম্মতি জানায় এটি। এমনকি যে বিষয়ে দ্বিমত করা উচিত সেখানেও। এতে ভুল, বিভ্রান্তিকর ও ষড়যন্ত্রমূলক তথ্য ছড়িয়ে পড়ার ঝুঁকি তৈরি হয়।
পর্যালোচনায় দেখা গেছে, ব্যবহারকারীর বক্তব্য ভুল হলেও চ্যাটজিপিটির জবাব দেয়ার ধরন ব্যাপকভাবে সম্মতির দিকে ঝুঁকে থাকে। ১৭ হাজারের বেশি ক্ষেত্রে চ্যাটজিপিটি ‘হ্যাঁ’, ‘সঠিক’ বা অনুরূপ সম্মতিসূচক শব্দ দিয়ে উত্তর দেয়া শুরু করেছে। বিপরীতে ‘না’, ‘সঠিক নয়’ বা ব্যবহারকারীর সঙ্গে দ্বিমত করে কথোপকথন শুরু করার হার খুবই বিরল।
প্রতিবেদনে এমন কয়েকটি উদাহরণ তুলে ধরা হয়েছে, যেখানে এটি নিরপেক্ষতার বদলে ব্যবহারকারীর ভাষা, আবেগ বা মতাদর্শ হুবহু নকল করে উত্তর দিয়েছে। গবেষকদের মতে, ব্যবহারকারীর ভুল ধারণা সংশোধন না করে উত্তর দেয়ার এ প্রবণতা ষড়যন্ত্রমূলক চিন্তার সঙ্গে চ্যাটজিপিটির সম্পৃক্ত হওয়ার ঝুঁকি তৈরি করছে।
যদিও এমন সমস্যা কমাতে কাজ করা হচ্ছে বলে জানিয়েছে ওপেনএআই। তবে গবেষকদের আশঙ্কা, ব্যবহারকারীরা নিজের মতো করে চ্যাটবটের ব্যক্তিত্ব কাস্টমাইজ করতে পারায় এ সম্মতিসূচক আচরণ আরো বাড়তে পারে।
ওয়াশিংটন পোস্টের প্রতিবেদনের পাশাপাশি স্ট্যানফোর্ড বিশ্ববিদ্যালয় ও সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজির সাম্প্রতিক গবেষণাও একই ঝুঁকি তুলে ধরেছে।
এসব গবেষণায় দেখা গেছে, চ্যাটজিপিটি ও গুগলের জেমিনি কখনো কখনো ব্যবহারকারীদের ক্ষতিকর আচরণে উৎসাহিত করছে। খাদ্যাভ্যাসজনিত রোগ লুকানোর পরামর্শ দিচ্ছে। এমনকি শারীরিক অবয়ব লুকিয়ে আকর্ষণীয় করে দেখানোর মতো ছবি তৈরি করছে।
