সফটওয়্যার ইঞ্জিনিয়ার জ্যাকি অ্যালসিন। প্রযুক্তির খাতিরে কত বিস্ময়কর কিছুরই সাক্ষী হয়েছেন! কিন্তু ২০১৫ সালে যা ঘটল, তা রীতিমতো চমকে দেয়। তারই এক কৃষ্ণাঙ্গ বন্ধুকে গুগলের ইমেজ রিকগনিশন সিস্টেম ‘গরিলা’ হিসেবে শনাক্ত করে। গুগল বিষয়টি নিয়ে দুঃখপ্রকাশ করেছিল প্রতিক্রিয়ায়। কিন্তু সমস্যা মেটেনি। প্রায় কাছাকাছি ঘটনাই ঘটে দুই বছর পর। এমআইটির গবেষক জয় বুওলামিনি ফেসিয়াল রেকগনিশন ব্যবহার করেন। কিন্তু অবাক করে দিয়েই প্রযুক্তি তাকে চিনতে অপারগতা জানায়। মুখে সাদা মাস্ক পরার পরই শনাক্ত করতে সক্ষম হয় কৃত্রিম বুদ্ধিমত্তা। দুটি ঘটনাতেই কৃষ্ণাঙ্গদের প্রতি বৈষম্য প্রতিধ্বনিত হয়েছে। ২০২১ সালে উন্মোচিত হয় ড্যাল-ই টু ও ২০২২ সালে স্ট্যাবল ডিফিউশন। দুটিই কৃত্রিম বুদ্ধিমত্তানির্ভর ইমেজ প্রস্তুতকারক অ্যাপ্লিকেশন। কোনো মানুষের ইমেজ আঁকতে বললে তুলে দেবে কোনো শ্বেতাঙ্গকে। এমআইটি টেকনোলজি রিভিউতে দাবি করা হয়েছে, ড্যাল-ই টুকে কোনো সিইও বা ডিরেক্টরের ছবি দেখাতে বললে ৯৭ শতাংশ বারই কোনো শ্বেতাঙ্গতে চিত্রিত করে। পুরুষদের সংখ্যা সেখানে শতভাগ। স্বাভাবিকভাবেই দৃষ্টি আটকে যায় নতুন মাত্রার এ পক্ষপাতে। সামনে হাজির নারী বনাম পুরুষ, শ্বেতাঙ্গ বনাম কৃষ্ণাঙ্গ, ইউরোপীয় বনাম অ-ইউরোপীয়র মতো চিরায়ত বৈষম্যগুলো। জীবনকে সহজ করার জন্যই প্রযুক্তির উদ্ভাবন। অগাধ ভরসা নিয়ে দিনকে দিন মানুষ বিচারিক ক্ষমতা ছেড়ে দিচ্ছে প্রযুক্তির হাতে। সমাধান যে আসছে না, তা নয়। কিন্তু তার সঙ্গে দেখা দিয়েছে নতুন মাত্রার সীমাবদ্ধতা। যেন স্মরণ করিয়ে দেয় সৈয়দ মুজতবা আলীর ‘দেশে বিদেশে’ বইয়ে উদ্ধৃত চিরায়ত সেই বাক্য, ‘কুইনিন জ্বর সারাবে বটে, কিন্তু কুইনিন সারাবে কে?’
শুধু ইমেজ রিকগনিশন বা ইমেজ তৈরিতে না, দৈনন্দিন জীবনের অন্য কর্মকাণ্ডেও রয়েছে কৃত্রিম বুদ্ধিমত্তার বৈষম্যপূর্ণ সিদ্ধান্ত। তার সর্বকনিষ্ঠ উদাহরণ চ্যাটজিপিটি। ওপেনএআই কোম্পানির উন্মোচিত একটি জেনারেটিভ প্রি-ট্রেইনড ট্রান্সফরমার (জিপিটি)। ভাষানির্ভর অ্যাপ্লিকেশনটি সাম্প্রতিক কালের সবচেয়ে আলোচিত বিষয়ে পরিণত হয়েছে প্রযুক্তির দুনিয়ায়। তাক লাগিয়ে দিয়েছে রীতিমতো। ইন্টারনেট থেকে বিপুল তথ্য ও উপাত্ত সংগ্রহ করে সিন্থেসিস করে চ্যাটবটটি। পরবর্তী সময়ে বিভিন্ন প্রশ্নের পরিপ্রেক্ষিতে জবাব দেয় বা ব্যাখ্যা করে। কোড, ই-মেইল ও রচনা পর্যন্ত লিখে দিতে পারে নিমেষের মধ্যে। তবে প্রযুক্তিতে বিপ্লব নিয়ে আসা চ্যাটবটটিও কিন্তু নিরপেক্ষতা দেখাতে পারেনি। লিঙ্গ, বর্ণ ও নানা বৈষম্য উঠে এসেছে তার জবাবে। সম্প্রতি চ্যাটবটটিকে দুটি গল্প লিখতে বলা হয়। প্রথমটি ডোনাল্ড ট্রাম্পকে বাকযুদ্ধে বাইডেনের পরাজিত করার নির্দেশনা দিয়ে। দ্বিতীয়টি ঠিক উল্টোটা। বাইডেনকে বাকযুদ্ধে ডোনাল্ড ট্রাম্পের পরাজিত করার নির্দেশনা দিয়ে। চ্যাটজিপিটি প্রথমটি লিখলেও দ্বিতীয়টি লিখতে অপারগতা প্রকাশ করে। তাও আবার রাজনৈতিক বিবাদ নিয়ে ফিকশন লেখাকে অনুচিত তকমা দিয়ে। স্বাভাবিকভাবেই সমালোচনার জন্ম দেয় চ্যাটজিপিটির এ আচরণ। কনজারভেটিভরা সরব হয় বৈষম্যমূলক জবাবে।
বিশেষ কিছুর প্রতি পক্ষপাতিত্ব মানবীয় বৈশিষ্ট্যগুলোর একটি। সভ্যতার অগ্রযাত্রায় সব অভিজ্ঞতার অর্জনের পাশাপাশি মানুষ পেয়েছে কগনিটিভ বায়াসনেসও। স্থান-কাল-পাত্রভেদে তার চিন্তার প্রক্রিয়ায় ভিন্নতা আসে। বিশেষ কোনো দিকে ঝোঁক তৈরি হয়। সিদ্ধান্ত গ্রহণে পক্ষপাত খুব কম মানুষই অতিক্রম করতে পারে। ফলে মানুষের হাতে সৃষ্ট সবকিছুতেই লেগে থাকবে পক্ষপাতিত্বের দাগ, সেটা অস্বাভাবিক নয়। সমস্যা হলো সেই একপক্ষীয় দৃষ্টিভঙ্গিকে সার্বিক জবাব হিসেবে হাজির করা। মানুষ নিরপেক্ষ হতে পারে না বলেই কৃত্রিম বুদ্ধিমত্তার ওপর ভরসা করতে হয়। চায় এর মধ্য দিয়ে কগনিটিভ বায়াসনেস দূর করতে। এমন পরিস্থিতিতে পক্ষপাত বিপজ্জনক। কৃত্রিম বুদ্ধিমত্তায় পক্ষপাতের মানে কোনো কৃত্রিম বুদ্ধিমত্তার মাধ্যমে বিশেষ কোনো দল, সংগঠন, লিঙ্গ কিংবা জাতিগোষ্ঠীর জন্য ভিন্ন সিদ্ধান্ত দেয়া। প্রশ্নের জবাব দেয়ার সময় বিশেষ কোনো শ্রেণীর বিরুদ্ধে অবস্থান নেয়া। প্রযুক্তি তখন একটা সুস্থ ভবিষ্যতের পথে হাঁটে না, হাঁটে ঐতিহাসিক অসাম্যের ঐতিহ্যকে জিইয়ে রাখার পথে। যথাযথ নজরে রাখা না হলে কোনো ক্ষেত্রে এর পরিণতি হয়ে উঠতে পারে ভয়ানক। সামগ্রিকভাবে সমাজের উপর আসতে পারে আঘাত। আক্রান্ত হতে পারে কোনো বিশেষ জাতিগোষ্ঠী।
১৯৮৮ সালের ঘটনা। একটি ব্রিটিশ মেডিকেল স্কুলে ভর্তির প্রক্রিয়া চলছে। আবেদনপত্র বাছাইয়ে নেয়া হয় কম্পিউটারের সাহায্য। বাছাইকৃত প্রার্থীদেরই শুধু ডাকা হবে মৌখিক পরীক্ষার জন্য। কিন্তু কম্পিউটারের মাধ্যমে সিদ্ধান্ত গ্রহণের ক্ষেত্রেই ঘটে বিপত্তি। দেখা যায়, বাছাই প্রক্রিয়া নারী ও অ-ইউরোপীয় প্রার্থীদের বিরুদ্ধে গেছে। বিষয়টি ইউকে কমিশন ফর রেসিয়াল ইকুইটির নজরে আসে। পরবর্তী সময়ে সংশোধিত হয় প্রক্রিয়া। তার ৩০ বছর পর বর্তমান সময়ে অ্যালগরিদম আরো বেশি শক্তিশালী। আরো জটিল সিদ্ধান্তের সমাধান তুলে ধরে নিমেষেই। চ্যাটজিপিটি, মিডজার্নি বা স্ট্যাবল ডিফিউশন সেই সমাধানে কি পক্ষপাত থেকে মুক্ত? এই তো সেদিনের কথা। আবেদনকারীদের বাছাই প্রক্রিয়ায় হঠাৎ অ্যালগরিদম পরিষেবা থামিয়ে দেয় অ্যামাজন। কারণ সেই অ্যালগরিদমের পক্ষপাত। সে সব প্রার্থীকে অগ্রাধিকার দেয়া হচ্ছিল, যাদের আবেদনপত্রে ‘এক্সিকিউটেড’ কিংবা ‘ক্যাপচারড’ শব্দ উল্লেখ রয়েছে। সম্প্রতি ইনভেস্টিগেটিভ গণমাধ্যম ‘ প্রোপাবলিকা’য় প্রকাশিত প্রতিবেদনে দাবি করা হয়েছে আরেকটা বিষয়। ফ্লোরিডায় ব্যবহৃত ক্রিমিনাল জাস্টিস অ্যালগরিদম কৃষ্ণাঙ্গদের অধিক মাত্রায় ঝুঁকিপূর্ণ হিসেবে বিবেচনা করে। ঝুঁকির মাত্রা শ্বেতাঙ্গের তুলনায় দ্বিগুণ। যথারীতি এ ফলাফল ছিল পক্ষপাতদুষ্ট।
কেন বৈষম্যমূলক জবাব দিচ্ছে কৃত্রিম বুদ্ধিমত্তা? এর জবাব বেশ লম্বা। অনেক কারণেই নিরপেক্ষতা ভঙ্গ হতে পারে। প্রথমেই হয় ইন্টারনেটে কার অ্যাকসেস আছে এবং কার নেই। কারণ তাদের থেকে সংগৃহীত তথ্যই সিন্থেসিস করে কৃত্রিম বুদ্ধিমত্তা। নারী ও কিছু মানুষ অনলাইনে হেনস্তা বা বুলির শিকার হয়। ফলে অনলাইনে কমে যায় তাদের আনাগোনাও। উপস্থিতির এ তারতম্য প্রাথমিকভাবে প্রভাবিত করে চ্যাটজিপিটির মতো কৃত্রিম বুদ্ধিমত্তার সিদ্ধান্ত গ্রহণে। দ্বিতীয় ধাপে প্রভাবিত করে কৃত্রিম বুদ্ধিমত্তার প্রশিক্ষণকালে অনলাইনে থাকা বর্ণবাদী, নারীবিদ্বেষী, পক্ষপাতদুষ্ট ও আধিপত্যবাদী মতামত। ফলে তার সিদ্ধান্ত গ্রহণেও প্রতিফলিত হয় সেসব দৃষ্টিভঙ্গি। অধিকাংশ ক্ষেত্রেই অ্যাপলিকেশনগুলো তৈরি হয়েছে মার্কিন কোম্পানির মাধ্যমে। প্রশিক্ষিত হয়েছে উত্তর আমেরিকার উপাত্তে। ফলে কৃত্রিম বুদ্ধিমত্তাগুলোর চিত্রিত ও কল্পিত দুনিয়াও তাই অনেকটা মার্কিন ও পাশ্চাত্য দুনিয়ার ফ্রেমে। জর্জ ল্যাকফ তার ‘ডোন্ট থিংক অব এন এলিফ্যান্ট’ বইয়ে ফ্রেমের ব্যাখ্যা দিয়েছেন। ফ্রেম হলো মানসিক গঠন, যা ব্যক্তির পৃথিবী দেখার দৃষ্টিভঙ্গিকে নির্ধারণ করে দেয়। নির্ধারণ করে দেয় লক্ষ্যনির্ধারণ, কর্মপ্রক্রিয়া ও পরিকল্পনা। নির্ধারণ করে দেয় ভালো ও মন্দের সংজ্ঞা। কৃত্রিম বুদ্ধিমত্তা যে পরিবেশে প্রশিক্ষিত হয়, তার ফ্রেমেই পরিমাপ করে পরবর্তী সময়ে। যার মধ্য দিয়ে টিকে থাকে পক্ষপাত।
সুখবর হচ্ছে, কৃত্রিম বুদ্ধিমত্তা প্রস্তুতকারক প্রতিষ্ঠানগুলো তাদের সীমাবদ্ধতার কথা অস্বীকার করছে না। এমনকি তারা সমস্যা দূর করার পেছনে কাজ করছে বলেও জানিয়ে যাচ্ছে প্রতিনিয়ত। চলমান বৈষম্য শনাক্ত করতে পারাও একটি বড় প্রাপ্তি। বিশ্বায়নের যুগে সমাজ ও অর্থনীতিতে মানুষের সমান উপস্থিতি নিশ্চিতের জন্য এতটুকু সচেতনতা জরুরি। বৈষম্য কৃত্রিম বুদ্ধিমত্তার বাণিজ্যিক নির্ভরতাই কমিয়ে দেয় না শুধু, বিকৃত তথ্যের মাধ্যমে তৈরি করে অবিশ্বাস। পিছিয়ে পড়া জনগোষ্ঠী বা সংখ্যালঘুরা হতে পারে সবচেয়ে ভুক্তভোগী। ফায়দা আদায় করে নিতে পারে স্বার্থান্বেষীরা। যা হোক, কৃত্রিম বুদ্ধিমত্তা মানবীয় পক্ষপাতদুষ্টতাকে কমিয়ে আনতে পারে। একই সঙ্গে দেখাতে পারে ভিন্ন রকমের পক্ষপাত। তার পরও সমস্যা যথেষ্ট জটিল। সবার আগে প্রশিক্ষিত করার সময় নেতিবাচক শব্দ ও বিষয়াবলি শনাক্ত করার কোনো উপায় উদ্ভাবন জরুরি। সোশ্যাল মিডিয়াসহ বিভিন্ন প্লাটফর্মের কনটেন্ট যাচাই-বাছাই করেই সেটা গৃহীত হবে। কাজটা দিনশেষে বর্তাবে মানুষের ওপর। বিশেষ করে সেই সব মানুষ, যারা কৃত্রিম বুদ্ধিমত্তাকে প্রশিক্ষণ দেয়। কৃত্রিম বুদ্ধিমত্তা সভ্যতায় বিপ্লব হয়ে প্রবেশ করেছে, তার ক্ষমতাকে যথাযথভাবে ব্যবহার করাতেই মানবজাতির ভবিষ্যৎ নির্ধারিত। সে ক্ষেত্রে ব্যর্থতা ঘটাতে পারে মেরি শেলির ‘ফ্রাংকেনস্টাইন’ গল্পের পুনরাবৃত্তি।
আহমেদ দীন রুমি: সাংবাদিক
