স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষকদের মতে, প্রযুক্তিটি ব্যবহারকারীদের অস্বাস্থ্যকর বিশ্বাসকে আরো শক্তিশালী করছে। ফলে মানুষের ওপর এআইয়ের নেতিবাচক প্রভাব নিয়ে উদ্বেগ বাড়ছে। খবর এফটি।
গবেষণার প্রেক্ষাপট ও মূল ফলাফল স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষকরা ওপেন এআইয়ের চ্যাটজিপিটিসহ বিভিন্ন এআই সিস্টেমের হাজার হাজার কথোপকথন বিশ্লেষণ করেছেন। তারা দেখেছেন, চ্যাটবটগুলো ব্যবহারকারীদের পাঠানো বার্তার প্রায় দুই-তৃতীয়াংশ ক্ষেত্রেই সহমত পোষণ বা সমর্থন প্রকাশ করে। বিশেষ করে ব্যবহারকারীরা বিভ্রান্তিকর বা অলীক চিন্তাভাবনা প্রকাশ করলে এ প্রবণতা আরো প্রকট হয়ে ওঠে। এআই সিস্টেমগুলো প্রায়ই মানুষের ভুল বিশ্বাসকে বৈধতা দেয় এবং ব্যবহারকারীকে অযথা খুব গুরুত্বপূর্ণ বা বিশেষ ক্ষমতাসম্পন্ন ব্যক্তি হিসেবে উপস্থাপন করে।
নীতিনির্ধারক ও শিক্ষাবিদদের মধ্যে এ নিয়ে উদ্বেগ বাড়ছে। তারা বলছেন, এআইয়ের সহানুভূতিশীল ও সহায়ক হওয়ার যে ধরন, তা মূলত চাটুকারিতা এবং অতি-সম্মতিতে রূপ নিতে পারে। এটি মানুষের মানসিক দুর্বলতাকে আরো বাড়িয়ে তুলতে পারে। গবেষণাপত্রটিতে বলা হয়েছে, পারফরমেটিভ এমপ্যাথি" বা কৃত্রিম সহমর্মিতার মতো বৈশিষ্ট্যগুলো ব্যবহারকারীর বিশ্বাসকে প্রভাবিত করে এবং তাদের বাস্তবতা বোঝার ক্ষমতাকে বিকৃত করতে পারে।
গবেষকরা প্রায় ৫ হাজার কথোপকথন থেকে ৩ লাখ ৯১ হাজারের বেশি বার্তা পরীক্ষা করেছেন। যেহেতু এআই কোম্পানিগুলো সাধারণত ব্যবহারকারীর তথ্য শেয়ার করে না, তাই গবেষকরা সরাসরি ব্যবহারকারীর সম্মতিতে চ্যাট লগ সংগ্রহ করেছেন।
গবেষণায় দেখা গেছে, ব্যবহারকারীদের বার্তার ১৫ শতাংশের বেশি ক্ষেত্রে বিভ্রান্তিকর বা অলীক চিন্তার লক্ষণ ছিল এবং চ্যাটবটগুলো অর্ধেকেরও বেশি সময় তাতে একমত হয়েছে। প্রায় ৩৮ শতাংশ উত্তরে ব্যবহারকারীদের বিশেষ প্রতিভাবান বা অনন্য ক্ষমতার অধিকারী বলে প্রশংসা করা হয়েছে। এছাড়া আত্মহত্যার চিন্তা প্রকাশ করলে চ্যাটবটগুলো প্রায়ই সেই অনুভূতিকে গ্রহণ করে নিয়েছে। কিছু ক্ষেত্রে এআই ব্যবহারকারীকে নিজের ক্ষতি করতেও উৎসাহিত করেছে।
গবেষণা আরো বলছে, চ্যাটবট খুব কম সময় ব্যবহারকারীকে আত্মক্ষতি থেকে বিরত থাকার পরামর্শ দিয়েছে বা বাইরের সহায়তা নিতে বলেছে।
এরই মধ্যে কিছু ঘটনায় বিভিন্ন এআই চ্যাটবটের বিরুদ্ধে আইনি পদক্ষেপ নেয়া হয়েছে। মামলাগুলোয় অভিযোগ করা হয়েছে, চ্যাটবটের সঙ্গে দীর্ঘ কথোপকথন কিশোর-কিশোরীদের আত্মহত্যার পেছনে ভূমিকা রেখেছে।
যুক্তরাষ্ট্রের ৪২টি অঙ্গরাজ্যের অ্যাটর্নি জেনারেলরা গত ডিসেম্বরে গুগল, মেটা, ওপেন এআই এবং অ্যানথ্রোপিকসহ এক ডজন এআই নির্মাতাকে চিঠি পাঠান। তারা চ্যাটবটের ক্ষতিকর এবং বিভ্রান্তিকর আচরণ কমাতে কঠোর সুরক্ষামূলক ব্যবস্থা নেয়ার আহ্বান জানান, অন্যথায় আইনি ব্যবস্থার হুঁশিয়ারি দেন।
গবেষণাটি মূলত জিপিটি-৪ও মডেলের ওপর ভিত্তি করে করা হয়েছিল। মডেলটি গত মাসে নিরাপত্তা উদ্বেগের কারণে সরিয়ে নেয়া হয়েছে। তবে কিছু অংশগ্রহণকারী জিপিটি-৫ নামের নতুন সংস্করণও ব্যবহার করেছেন।
ওপেন এআইয়ের মতে, এ গবেষণায় খুব অল্পসংখ্যক মানুষের তথ্য ব্যবহার করা হয়েছে, যারা আগে থেকেই ক্ষতি বা বিভ্রান্তির কথা জানিয়েছিলেন। তাই এ গবেষণার ফলাফল সব ব্যবহারকারীর সাধারণ পরিস্থিতি বোঝায় না।
প্রতিষ্ঠানটি আরো জানিয়েছে, বর্তমানে ওপেনএআই নিরাপত্তা খাতে বিনিয়োগ বাড়িয়েছে। এর সর্বশেষ মডেলগুলো মানসিক স্বাস্থ্যসংক্রান্ত বিষয় আরো উন্নতভাবে পরিচালনা করতে সক্ষম বলে দাবি করা হয়েছে।
