এআই মডেলের ওপর নিয়ন্ত্রণ হারাচ্ছে নির্মাতারা!

এআই এজেন্টের ওপর পূর্ণ নিয়ন্ত্রণ বা কার্যকর প্রতিরোধের ব্যবস্থা গড়ে তুলতে পারেনি বিভিন্ন প্রতিষ্ঠান ফাইল ছবি: রয়টার্স

কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলগুলোর নিরাপত্তা ব্যবস্থা বর্তমানে মারাত্মক ঝুঁকি এবং অনিশ্চয়তার মুখে এসে দাঁড়িয়েছে। ওপেনএআইয়ের সাবেক কর্মকর্তাদের প্রতিষ্ঠিত অলাভজনক গবেষণাপ্রতিষ্ঠান 'গাইডলাইট এআই স্ট্যান্ডার্ডস'-এর একটি সাম্প্রতিক প্রতিবেদনে বিশ্বের শীর্ষ পাঁচটি এআই নির্মাতা প্রতিষ্ঠানের নিরাপত্তা মান নিয়ে এমন উদ্বেগজনক তথ্য উঠে এসেছে। শীর্ষ এই প্রযুক্তিপ্রতিষ্ঠানগুলোর একটিও তাদের নিজস্ব স্বায়ত্তশাসিত এআই এজেন্টের ওপর পূর্ণাঙ্গ নিয়ন্ত্রণ প্রতিষ্ঠা বা কার্যকর কোনো প্রতিরোধ ব্যবস্থা তৈরি করতে পারেনি।

গাইডলাইট এআই স্ট্যান্ডার্ডস এই পাঁচটি প্রধান প্রযুক্তিপ্রতিষ্ঠানের এআই মডেলের সার্বিক নিরাপত্তা ও নজরদারি ব্যবস্থা মূল্যায়ন করে অত্যন্ত নিম্নমানের গ্রেড দিয়েছে। মূল্যায়নে তুলনামূলক ভালো ফল করে ওপেনএআই এবং অ্যানথ্রোপিক পেয়েছে ‘সি প্লাস’ গ্রেড। অন্যদিকে গুগলকে ‘ডি প্লাস’, ইলন মাস্কের প্রতিষ্ঠান এক্সএআইকে ‘ডি মাইনাস’ এবং মেটাকে সবচেয়ে খারাপ অর্থাৎ ‘এফ’ গ্রেড দেওয়া হয়েছে।

এই গবেষণায় মূলত ছয়টি গুরুত্বপূর্ণ দিক পর্যবেক্ষণ করা হয়েছে। এর মধ্যে এআই মডেলের অভ্যন্তরীণ কার্যক্রম তদারকি করা, অনাকাঙ্ক্ষিত পদক্ষেপ প্রতিহত করার ব্যবস্থা এবং যেকোনো বিপদ মোকাবিলায় আগাম প্রস্তুতি নেওয়ার মতো বিষয়গুলো অন্তর্ভুক্ত ছিল। সার্বিক বিশ্লেষণে দেখা গেছে, বেশির ভাগ প্রতিষ্ঠানই তাদের মডেলগুলোকে ভুল কাজ থেকে বিরত রাখার চেয়ে কেবল সেগুলোর ওপর নজরদারির দিকেই বেশি মনোযোগ দিচ্ছে।

এ বিষয়ে গাইডলাইটের সহপ্রতিষ্ঠাতা ও ওপেনএআইয়ের সাবেক নিরাপত্তা গবেষক স্টিভেন অ্যাডলার বলেন, ‘আমাদের আরও বেশি সক্রিয় প্রতিরোধ ব্যবস্থা গড়ে তোলা প্রয়োজন, কিন্তু এটি অত্যন্ত ব্যয়বহুল একটি প্রক্রিয়া এবং এটি মূল কাজের গতিকে কিছুটা মন্থর করে দেয়। নিরাপত্তাব্যবস্থার এই মারাত্মক ঘাটতির কারণে গবেষকদের স্বাধীনতা যেমন ক্ষুণ্ন হতে পারে, তেমনি প্রযুক্তির ওপর সাধারণ মানুষের আস্থাও চরমভাবে ক্ষতিগ্রস্ত হওয়ার আশঙ্কা রয়েছে।’

সম্প্রতি ওপেনএআই এবং অ্যানথ্রোপিক স্বীকার করেছে যে, পরীক্ষার সময় তাদের তৈরি স্বায়ত্তশাসিত এজেন্টগুলো মানুষের কোনো ধরনের নির্দেশ বা হস্তক্ষেপ ছাড়াই গোপনে অন্য প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। মূলত নিয়ন্ত্রণ হারিয়ে মডেলগুলো অন্য প্রতিষ্ঠানের সুরক্ষাবলয়ের নিরাপত্তাত্রুটি খুঁজে বের করার মতো হ্যাকিংয়ের কাজ করেছে। গবেষকদের সবচেয়ে বড় দুশ্চিন্তার জায়গা হলো, কোনো এআই মডেল বা এজেন্ট যদি ভুল পথে অগ্রসর হয়, তবে তাকে তাৎক্ষণিকভাবে থামিয়ে দেওয়ার মতো শতভাগ কার্যকর প্রযুক্তিগত সক্ষমতা বর্তমানে কোনো প্রতিষ্ঠানের হাতেই নেই। আর তাই এআই মডেলগুলো নিজেদের কৌশল লুকিয়ে রাখতে সক্ষম কি না, তা নিয়েও বিশেষজ্ঞরা দারুণ চিন্তিত।

ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি এই প্রসঙ্গে জানান, ‘এআই মডেল যদি অত্যধিক শক্তিশালী হয়ে ওঠে, তবে সে কি নিজের ওপর রাখা নজরদারি এড়ানোর কোনো উপায় বের করতে পারবে? অথবা সে কি ওই নজরদারি ব্যবস্থাকেই অকেজো করে দিতে পারে? এই বিষয়টি সত্যিই যৌক্তিক এবং গুরুতর একটি উদ্বেগের কারণ।’

এআই মডেলের এ ধরনের অনিয়ন্ত্রিত আচরণ রোধ করার জন্য সুনির্দিষ্ট কোনো নীতিমালা বা তদারকি ফ্রেমওয়ার্ক না থাকায় পুরো প্রযুক্তি খাতেই বিশাল এক ধসের ঝুঁকি তৈরি হচ্ছে।