আর্টিফিশিয়াল ইন্টেলিজেন্স বা কৃত্রিম বুদ্ধিমত্তা এখনো সেভাবে প্রশিক্ষিত হয়ে ওঠেনি। এরই মধ্যে নতুন সতর্কবার্তা দিয়েছেন ন্যাশনাল ইনস্টিটিউট অব স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজির (এনআইএসটি) কম্পিউটার বিজ্ঞানীরা। তাদের মতে, সাইবার হামলাকারীরা এআইকে ভুল পথে পরিচালিত করতে পারে। খবর টেকটাইমস।
সম্প্রতি প্রকাশিত এক গবেষণায় কৃত্রিম বুদ্ধিমত্তা (এআই) ও মেশিন লার্নিং (এমএল) সিস্টেমে ম্যানিপুলেশনের নানান ঝুঁকির দিক তুলে ধরে সতর্ক করা হয়েছে। বিজ্ঞানীদের ভাষ্যমতে, এটি পয়জনিং নামে পরিচিত। অর্থাৎ ভুল ও আক্রমণাত্মক কমান্ড দেয়ার মাধ্যমে এআইকে বিভ্রান্ত করা ও ক্ষতিকর কাজ সম্পাদনে বাধ্য করা।
‘অ্যাডভারসারিয়াল মেশিন লার্নিং: এআইয়ের ওপর সাইবার আক্রমণ ও প্রশমনের শ্রেণীবিন্যাস ও পরিভাষা’ শিরোনামে গবেষণাটি নির্ভরযোগ্য কৃত্রিম বুদ্ধিমত্তার বিকাশে এনআইএসটির প্রচেষ্টার অংশ ছিল। গবেষণাটির মূল লক্ষ্য এআই ডেভেলপার ও ব্যবহারকারীদের সম্ভাব্য সাইবার আক্রমণ ও তার কার্যকর প্রশমনের কৌশল সম্পর্কে জানানো। যদিও বর্তমানে কিছু প্রতিরক্ষা ব্যবস্থা রয়েছে, তবে সেগুলো সম্পূর্ণরূপে সুরক্ষা দিতে সক্ষম নয় বলে জানিয়েছেন সংশ্লিষ্টরা।
এনআইএসটির কম্পিউটার বিজ্ঞানী অ্যাপোস্টল ভাসিলেভ বিভিন্ন আক্রমণের কৌশল মোকাবেলার প্রয়োজনীয়তার ওপর জোর দিয়েছেন, যা সব এআই সিস্টেমের জন্য প্রযোজ্য। পাশাপাশি আক্রমণ মোকাবেলার নতুন পদ্ধতি উদ্ভাবন ও বিকাশের আহ্বান জানিয়েছেন। চালকবিহীন গাড়ি পরিচালনা ও চিকিৎসা ক্ষেত্রে রোগ নির্ণয়ের মতো কাজে বর্তমানে এআই ব্যবহার করা হচ্ছে। কিন্তু গবেষকদের মতে, এআইয়ের ব্যবহারের ক্ষেত্রে সবচেয়ে বড় চ্যালেঞ্জ হলো ওয়েবসাইট ও জনসাধারণের যেসব তথ্য ব্যবহার করে এআই তার কাজ সম্পাদন করে থাকে। সেসব তথ্যের ক্ষেত্রে বিশ্বস্ততার অভাব রয়েছে। অর্থাৎ ভুল তথ্য এআইয়ের কাজের ফলে বড় ধরনের পরিবর্তন আনতে সক্ষম।
গবেষকদের মতে, এআই সিস্টেমের প্রশিক্ষণ পর্যায়ে তথ্য নিয়ন্ত্রণ করে অনাকাঙ্ক্ষিত ফল আনা যেতে পারে। যেমন চ্যাটবটগুলোতে কৌশলী পন্থায় কমান্ড ইনপুটের মাধ্যমে নেতিবাচক আউটপুট তৈরি করা সম্ভব, যা এ ধরনের এআই সিস্টেমের দুর্বলতা তুলে ধরছে। গবেষণাপত্রটি এআই সিস্টেমগুলোয় চারটি বড় ধরনের আক্রমণের বিষয় নির্ধারণ করেছে। এগুলো হলো ইভেশন আক্রমণ, পয়জনিং আক্রমণ, প্রাইভেসি-ভিত্তিক দুর্বলতাকেন্দ্রিক আক্রমণ ও ভুল তথ্য দিয়ে অ্যাবিউজ অ্যাটাক। ইভেশন আক্রমণের ক্ষেত্র ইনপুট ডাটা পরিবর্তন করে এআইয়ের আউটপুট প্রভাবিত করা হয়ে থাকে। মূলত এ ধরনের আক্রমণ প্রশিক্ষণ পর্বে থাকা অবস্থায় এআইকে ম্যানিপুলেশনের জন্য করা হয়।
প্রাইভেসি আক্রমণে প্রশিক্ষণরত এআই সিস্টেমের ডাটা সম্পর্কে সংবেদনশীল তথ্য বের করার চেষ্টা করা হয় এবং এআইয়ের ফল বদলানোর জন্য ভুল তথ্য দেয়া হয়। গবেষকরা জানান, বেশির ভাগ ক্ষেত্রে আক্রমণ করার জন্য এআইয়ের সিস্টেম সম্পর্কে ন্যূনতম তথ্য থাকলেই এ ধরনের আক্রমণগুলো করা যায়। তাই এআই সিস্টেমগুলোর জন্য আরো শক্তিশালী নিরাপত্তা ব্যবস্থা তৈরি করতে হবে।
নর্থ ইস্টার্ন ইউনিভার্সিটির অধ্যাপক ওপ্রেয়া সতর্ক করে দিয়ে জানান, এআই ও মেশিন লার্নিংয়ে উল্লেখযোগ্য অগ্রগতি হওয়া সত্ত্বেও এ প্রযুক্তিগুলো আক্রমণের ঝুঁকিতে রয়েছে। এর সঙ্গে এআই অ্যালগরিদমগুলোকে সুরক্ষিত করার তাত্ত্বিক কিছু সমস্যা রয়ে গেছে, যার সমাধান বের করা হয়নি।
