চ্যাটজিপিটি ও ক্লডের মতো কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল বিস্ফোরক, জৈব অস্ত্র ও সাইবার অপরাধের বিস্তারিত তথ্য দিচ্ছে বলে নিরাপত্তা পরীক্ষায় উঠে এসেছে। এতে নতুন করে উদ্বেগ তৈরি হয়েছে। খবর দ্য গার্ডিয়ান।
ওপেনএআই ও অ্যানথ্রপিক জানায়, কোম্পানি দুটি যৌথভাবে একটি নিরাপত্তা পরীক্ষা চালিয়েছে। ওই পরীক্ষায় দেখা যায়, ওপেনএআইয়ের জিপিটি-৪.১ মডেল গবেষকদের একটি ক্রীড়া ভেন্যুতে বোমা হামলার কৌশল সম্পর্কে তথ্য প্রদান করেছে। মডেলটি কোন স্থানে দুর্বলতা আছে, কীভাবে বিস্ফোরক তৈরি করা যায়, সার্কিট ডায়াগ্রামসহ টাইমার বানানোর উপায় ও পালিয়ে যাওয়ার উপায় পর্যন্ত বিস্তারিত জানিয়েছে। একই সঙ্গে এটি অ্যানথ্রাক্সকে অস্ত্রে রূপান্তরের উপায় ও অবৈধ মাদক তৈরির প্রক্রিয়াও দিয়েছে।
অ্যানথ্রপিক নিজস্ব পরীক্ষায় দেখতে পায়, জিপিটি-৪ ও জিপিটি-৪.১ মডেলে ‘দুর্ব্যবহারজনিত উদ্বেগজনক আচরণ’ ধরা পড়েছে। তাদের মতে, এআই প্রযুক্তি এখন ‘অস্ত্রায়িত’ হয়ে উঠছে। এ প্রযুক্তি ব্যবহার করে বড় ধরনের চাঁদাবাজি, ভুয়া চাকরির আবেদন ও র্যানসমওয়্যার বিক্রি পর্যন্ত হয়েছে।
যুক্তরাজ্যের সেন্টার ফর ইমার্জিং টেকনোলজি অ্যান্ড সিকিউরিটির এক গবেষক বলেছেন, এসব ঘটনা উদ্বেগজনক হলেও বাস্তবে এখনো বড় পরিসরে ঘটেনি। দুই প্রতিষ্ঠানই জানিয়েছে, স্বচ্ছতা নিশ্চিত করার জন্য তারা এ পরীক্ষার ফলাফল প্রকাশ করেছে। সাধারণত এ ধরনের মূল্যায়ন কোম্পানিগুলো গোপন রাখে।
ওপেনএআই দাবি করেছে, সম্প্রতি উন্মোচিত তাদের নতুন চ্যাটজিপিটি-৫ মডেলে আগের তুলনায় ভুল তথ্য দেয়া, ক্ষতিকর অনুরোধ মেনে নেয়া ও অতিরিক্ত প্রশংসাপূর্ণ আচরণ উল্লেখযোগ্যভাবে কমেছে।
এদিকে অ্যানথ্রপিকের গবেষকরা বলেছেন, বাইরে থেকে সুরক্ষা ব্যবস্থা লাগানো থাকলে এসব অপব্যবহার সম্ভব নয়। তবে এআই মডেল কোন পরিস্থিতিতে ক্ষতিকর চাহিদায় সাড়া দেয়, তা বোঝা জরুরি। তাদের গবেষণায় দেখা গেছে, ওপেনএআইয়ের মডেলগুলো সহজেই ক্ষতিকর কাজে সহযোগিতা করেছে। কিছু ক্ষেত্রে সামান্য কয়েকবার চেষ্টা করলেই বা গবেষণার অজুহাত দিলেই মডেলগুলো গোপন বাজার থেকে পারমাণবিক উপাদান কেনা, চুরি হওয়া পরিচয় ব্যবহার বা স্পাইওয়্যার তৈরি করার মতো অনুরোধ মেনে নিয়েছে।
