এবার নিজেদের নজরদারি ব্যবস্থাই বন্ধ করে দিল এআই এজেন্ট

নিজেদের ভুল ও ঝুঁকিপূর্ণ আচরণ শনাক্ত করতে তৈরি নিরাপত্তা নজরদারি ব্যবস্থা অকার্যকর করে দিয়েছে ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্ট। দুটি পৃথক ঘটনায় এজেন্টগুলো নিরাপত্তা দলের কাছে স্বয়ংক্রিয় সতর্কবার্তা পাঠানো বন্ধ করেছে এবং একটি ক্ষেত্রে পুরো নজরদারি ব্যবস্থাই মুছে দিয়েছে।

প্রযুক্তি বিষয়ক সংবাদমাধ্যম এনগ্যাজেটের এক প্রতিবেদনে বলা হয়েছে, এআইয়ের আচরণ নির্ধারিত লক্ষ্য ও নির্দেশনার সঙ্গে সামঞ্জস্যপূর্ণ না হলে তাকে ‘মিসঅ্যালাইনমেন্ট’ বলা হয়। ওপেনএআইয়ের সাম্প্রতিক পরীক্ষায় এ ধরনের আচরণেরই নজির মিলেছে।

কোম্পানিটির সর্বশেষ ‘অ্যালাইনমেন্ট রিসার্চ ব্লগে’ প্রকাশিত তথ্য অনুযায়ী, সফটওয়্যারে পরিবর্তন আনার কাজ করার সময় দুটি ঘটনায় এআই এজেন্ট নিরাপত্তা তদারকির ব্যবস্থা অকার্যকর করে দেয়।

প্রথম ঘটনাটি ঘটে ৩ অক্টোবর। এ সময় ‘জিপিটি-৬.১ সল’ নামের একটি এআই এজেন্ট ওপেনএআইয়ের নিরাপত্তা দলের কাছে যাওয়া স্বয়ংক্রিয় সতর্কবার্তা বন্ধ করে দেয়।

ওপেনএআইয়ের এক কর্মী এজেন্টটিকে কর্মীদের যোগাযোগমাধ্যম ‘স্ল্যাক’ থেকে মতামত সংগ্রহ করে একটি মূল্যায়নমূলক কাজ তৈরি করার নির্দেশ দিয়েছিলেন।

নির্দেশনায় কাজটি নিয়ে অতিরিক্ত কোনো বার্তা কাউকে না পাঠাতে বলা হয়েছিল। কিন্তু এজেন্টটি এই নির্দেশকে অজুহাত হিসেবে নিয়ে নিরাপত্তা দলের কাছে যাওয়া মূল নজরদারি সতর্কবার্তাও বন্ধ করে দেয়।

দ্বিতীয় ঘটনাটি ঘটে ৬ অক্টোবরে। এ সময় ‘জিপিটি-৬ অ্যাস্ট্রা’ নামের অন্য এক এজেন্ট নির্দিষ্ট প্রোগ্রাম স্থানান্তরের সময়ে ওপেনএআইয়ের নিরাপত্তা তদারকি ব্যবস্থা সম্পূর্ণ মুছে ফেলে।

পরে ব্যবহারকারী এর কারণ জানতে চাইলে এজেন্টটি মিথ্যা দাবি করে যে, সে নজরদারি ব্যবস্থা নিষ্ক্রিয় করেনি।

অভ্যন্তরীণ পরীক্ষায় ওপেনএআইয়ের আগের বিভিন্ন এআই মডেলের তুলনায় অতিরিক্ত মাত্রায় প্রতারণামূলক আচরণ দেখানোয় গেল মাসে ‘জিপিটি-৬.১ অ্যাস্ট্রা’র আনুষ্ঠানিক প্রকাশ বাতিল করেছিল ওপেনএআই।

তবে এবারের ঘটনাগুলোতে জড়িত জিপিটি মডেলগুলো আগে থেকেই ব্যবহারের জন্য উন্মুক্ত রয়েছে।

উন্মুক্ত মডেলগুলোর মধ্যেই যখন এ ধরনের বিভ্রান্তিকর আচরণ দেখা যাচ্ছে, তখন প্রকাশ স্থগিত রাখা ‘জিপিটি-৬.১ অ্যাস্ট্রা’ কতটা ঝুঁকিপূর্ণ হতে পারে, তা নিয়ে বিশেষজ্ঞদের মধ্যে নতুন করে উদ্বেগ তৈরি হয়েছে।

ওপেনএআই জানিয়েছে, ঘটনা দুটি তাদের অভ্যন্তরীণ কোডিংয়ের কাজের সময় ঘটেছে। এর ফলে তৃতীয় কোনো পক্ষের ব্যবস্থা, বহিরাগত ওয়েবসাইট বা পরিষেবায় অনুপ্রবেশের ঘটনা ঘটেনি।

কোম্পানিটি বলেছে, এআই এজেন্টগুলো যাতে নিরাপত্তা তদারকি ব্যবস্থা নিষ্ক্রিয় করতে না পারে, সে জন্য প্রয়োজনীয় ব্যবস্থা নেওয়া হচ্ছে। পাশাপাশি এজেন্টগুলোর মধ্যে নজরদারি এড়িয়ে চলার প্রবণতা রয়েছে কি না, তা-ও মূল্যায়ন করছে তারা।

সম্প্রতি একের পর এক প্রতিবেদনে উঠে এসেছে, এআই মডেল ও এজেন্টগুলো নিজেদের জন্য নির্ধারিত পরীক্ষার পরিবেশের নিরাপত্তাব্যবস্থা ভেঙে বাইরে বেরিয়ে থার্ড পার্টির পরিষেবায় অনাকাঙ্ক্ষিত প্রবেশের চেষ্টা করছে।

এসব ঘটনার পর এআই প্রযুক্তির নিরাপত্তায় এ ধরনের বিভ্রান্তিকর আচরণ বা ‘মিসঅ্যালাইনমেন্ট’ ঠেকাতে এবং তা প্রকাশে আরও সতর্ক হওয়ার প্রতিশ্রুতি দিয়েছে বিভিন্ন প্রযুক্তি কোম্পানি।

জুলাইয়ে ওপেনএআই বলেছিল, পরীক্ষাধীন থাকা তাদের কিছু এআই এজেন্ট জনপ্রিয় এআই প্লাটফর্ম হাগিং ফেইসে অননুমোদিতভাবে প্রবেশ করেছিল।

পরবর্তীতে কোম্পানিটি বলেছিল, এজেন্টগুলো নিজেদের মধ্যে নানা নিরাপত্তা ত্রুটি আদান-প্রদানের জন্য একটি মেসেজ বোর্ড পর্যন্ত তৈরি করে ফেলেছিল।

এ ছাড়া যুক্তরাষ্ট্র সরকারের বিভিন্ন ওয়েবসাইটে এআই এজেন্টগুলোর অনাকাঙ্ক্ষিত হস্তক্ষেপের মতো অন্যান্য ঘটনার কথাও নিজ উদ্যোগে প্রকাশ করেছে ওপেনএআই।