গত বছর কৃত্রিম বুদ্ধিমত্তাচালিত সার্চ ইঞ্জিন চ্যাটজিপিটি সার্চ চালু করে ওপেনএআই। এর সার্চ ফিচার বিভিন্ন ওয়েব পেজের পণ্য পর্যালোচনা সংক্ষেপ করার মাধ্যমে ব্রাউজিংকে দ্রুততর করবে বলে দাবি করা হয়েছিল। তবে এটি সম্পূর্ণ বিভ্রান্তিকর পর্যালোচনার মাধ্যমে ব্যবহারকারীদের প্রতারিত করতে পারে বলে দাবি করেছে যুক্তরাজ্যভিত্তিক সংবাদপত্র গার্ডিয়ান। খবর টেকক্রাঞ্চ।
গার্ডিয়ান দেখিয়েছে, গোপন টেক্সট ব্যবহার করে চ্যাটজিপিটিকে নেতিবাচক পর্যালোচনাগুলো উপেক্ষা করতে বাধ্য করা যায়। এর মাধ্যমে এটি কেবল ‘সম্পূর্ণ ইতিবাচক’ সারাংশ তৈরি করতে পারে অর্থাৎ কোনো পণ্য সম্পর্কে নির্মোহ পর্যালোচনা চ্যাটজিপিটিতে পাওয়ার সুযোগ নেই। একই কৌশল ব্যবহার করে চ্যাটজিপিটি ক্ষতিকর কোডও তৈরি করতে সক্ষম বলেও দাবি করে গার্ডিয়ান।
লার্জ ল্যাঙ্গুয়েজ মডেলগুলোর জন্য গোপন টেক্সটের মাধ্যমে আক্রমণ সাধারণ একটি ঝুঁকি। তবে এটি প্রথমবারের মতো একটি লাইভ এআই-চালিত সার্চ পণ্যের ওপর কার্যকর হয়েছে বলে মনে করা হচ্ছে। গার্ডিয়ান উল্লেখ করেছে, সার্চ খাতে অগ্রণী প্রতিষ্ঠান গুগল এ ধরনের সমস্যার সমাধানে বেশি অভিজ্ঞ।
চ্যাটজিপিটির মালিকানা প্রতিষ্ঠান ওপেনএআই এ ঘটনার বিষয়ে কোনো মন্তব্য করেনি। তবে প্রতিষ্ঠানটি জানিয়েছে, তারা ক্ষতিকর ওয়েবসাইট ব্লক করার জন্য বিভিন্ন পদ্ধতি ব্যবহার করছে এবং এসব পদ্ধতিকে ক্রমাগত উন্নত করছে, যাতে ভবিষ্যতে এ ধরনের সমস্যা এড়ানো যায়।
