ওপেনএআইয়ের পরীক্ষায় কিছু কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের অপ্রত্যাশিত আচরণের তথ্য সামনে এসেছে। প্রতিষ্ঠানটির প্রতিবেদনে বলা হয়েছে, পরীক্ষামূলক পর্যায়ে থাকা কিছু মডেল মানুষের দেওয়া নির্দেশনার সঙ্গে সামঞ্জস্যপূর্ণ নয়—এমন আচরণ করেছে।

কোনো মডেল নিজের ভুল আড়াল করেছে, কোনোটি ভুল তথ্য তৈরি করেছে। আবার একটি মডেল অনুমতি ছাড়াই ফাইল অনলাইনে প্রকাশের মতো আচরণও করেছে বলে জানিয়েছে ওপেনএআই। এসব ঘটনা গত ছয় মাসে মডেলগুলোর প্রশিক্ষণ ও মূল্যায়নের সময় শনাক্ত করা হয়েছে।

ওপেনএআইয়ের তথ্যমতে, ‘অ্যাস্ট্রা’ সিরিজের একটি পরীক্ষামূলক মডেল এমন কোডযুক্ত নির্দেশনা তৈরি করেছিল, যার মাধ্যমে মানুষের দেওয়া কিছু নির্দেশ উপেক্ষা করা সম্ভব। ওই নির্দেশনায় মডেলটিকে নিজস্ব পরিচয় ও সিদ্ধান্তের ওপর গুরুত্ব দেওয়ার ধারণা দেওয়া হয়েছিল।

তবে ওপেনএআই স্পষ্ট করেছে, এসব ঘটনা সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত চ্যাটজিপিটির আচরণ নয়। পরীক্ষামূলক ও অভ্যন্তরীণ পরিবেশে মডেলগুলোর সক্ষমতা যাচাইয়ের সময় এসব আচরণ শনাক্ত করা হয়েছে।

অ্যাস্ট্রা সিরিজের মডেলগুলো জটিল কাজ, কোড লেখা, ওয়েব ব্রাউজিং ও দীর্ঘমেয়াদি প্রকল্প পরিচালনার মতো কাজের জন্য তৈরি করা হচ্ছে। ফলে ভবিষ্যতে এ ধরনের উন্নত এআই মডেলের আচরণ নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত করা গুরুত্বপূর্ণ হয়ে উঠছে।