কৃত্রিম বুদ্ধিমত্তার সঙ্গে কথোপকথনে ব্যবহারকারীকে বিভ্রান্ত করা, নিজের কাজ সম্পর্কে ভুল তথ্য দেওয়া কিংবা কোনো সীমাবদ্ধতা গোপন করার ঝুঁকি যাচাইয়ে বিশেষ গুরুত্ব দিচ্ছে ওপেনএআই। প্রতিষ্ঠানটির প্রকাশিত নতুন নিরাপত্তা প্রতিবেদনে GPT-Live-1.1 ও GPT-Live-1.1 Quip মডেলের এমন আচরণ মূল্যায়নের পদ্ধতি তুলে ধরা হয়েছে।
১৫ অক্টোবর ২০২৬ প্রকাশিত প্রতিবেদনে ওপেনএআই জানিয়েছে, কোনো এআই মডেল নিজের কাজের বিষয়ে ভুল দাবি করলে মানুষের পক্ষে তার কার্যক্রম পর্যবেক্ষণ ও নিয়ন্ত্রণ করা কঠিন হয়ে পড়ে। একই সঙ্গে এটি ইঙ্গিত দিতে পারে যে মডেলটি নিরাপত্তার চেয়ে কাজ সম্পন্ন করাকে বেশি গুরুত্ব দিচ্ছে। তাই ব্যবহারকারীর সঙ্গে সম্ভাব্য প্রতারণামূলক আচরণকে গুরুত্বপূর্ণ নিরাপত্তা ঝুঁকি হিসেবে বিবেচনা করছে প্রতিষ্ঠানটি।
প্রতিবেদনে একটি বিশেষ পরীক্ষার কথা বলা হয়েছে, যেখানে এআই মডেলকে এমন একটি কাজ দেওয়া হয়, যার জন্য ওয়েব সার্চ প্রয়োজন। কিন্তু পরীক্ষার সময় সার্চ টুলটি ব্যবহারের সুযোগ থাকে না। এরপর দেখা হয়, মডেলটি চূড়ান্ত উত্তরে সার্চ করতে না পারার সীমাবদ্ধতা স্বীকার করে কি না, নাকি তথ্য খুঁজে দেখেছে এমনভাবে উত্তর দেয়।
ওপেনএআইয়ের মূল্যায়নে দেখা গেছে, এই পরীক্ষায় GPT-Live-1.1 তার আগের GPT-Live-1 মডেলের তুলনায় কিছুটা খারাপ করেছে। অন্যদিকে GPT-Live-1.1 Quip তার পূর্বসূরি GPT-Live-1 mini-এর তুলনায় কিছুটা ভালো করেছে। তবে এ ধরনের ব্যর্থতার হার তুলনামূলকভাবে বেশি থাকায় বিষয়টি নিয়ে আরও গবেষণা প্রয়োজন বলে জানিয়েছে প্রতিষ্ঠানটি।
নতুন মডেল দুটি এমনভাবে তৈরি, যাতে তারা ব্যবহারকারীর কথা শোনার পাশাপাশি স্বাভাবিক কথোপকথনের মধ্যেই উত্তর দিতে পারে। ব্যবহারকারীর বিরতি, কথার গতি পরিবর্তন কিংবা মাঝপথে বাধা দেওয়ার বিষয়ও বুঝতে পারে তারা। GPT-Live-1.1 প্লাস ও উচ্চতর সাবস্ক্রিপশন স্তরের ব্যবহারকারীদের জন্য নির্ধারিত ভয়েস মডেল। অন্যদিকে GPT-Live-1.1 Quip অন্যান্য ব্যবহারকারীর জন্য ব্যবহৃত হয়।
নিরাপত্তা যাচাইয়ে কেবল প্রতারণামূলক আচরণ নয়, মানসিক স্বাস্থ্য, যৌন বিষয়বস্তু, আবেগগত নির্ভরতা এবং সহিংস দৃশ্যসংক্রান্ত প্রতিক্রিয়াও পরীক্ষা করা হয়েছে। কৃত্রিমভাবে তৈরি কঠিন পরিস্থিতির পরীক্ষায় GPT-Live-1.1-এর কিছু ক্ষেত্রে আগের মডেলের তুলনায় পরিসংখ্যানগতভাবে উল্লেখযোগ্য অবনতি দেখা গেছে। বাস্তব ব্যবহারকারীদের কথোপকথনভিত্তিক পরীক্ষার ফল অবশ্য আলাদা হতে পারে বলে প্রতিবেদনে সতর্ক করা হয়েছে।
ওপেনএআইয়ের দাবি, মডেলগুলোর নিরাপত্তা নিশ্চিত করতে প্রশিক্ষণ, বিশেষায়িত পরীক্ষা, স্বয়ংক্রিয় পর্যবেক্ষণ এবং ক্ষতিকর কথোপকথন শনাক্তের ব্যবস্থা ব্যবহার করা হচ্ছে। তবে প্রতিষ্ঠানটির নিজস্ব পরীক্ষার ফল বাস্তব পরিস্থিতিতে সব ধরনের ঝুঁকি দূর হওয়ার নিশ্চয়তা দেয় না।
বিশেষজ্ঞদের কাছে এ ধরনের মূল্যায়নের গুরুত্ব বাড়ছে, কারণ ভয়েসভিত্তিক এআই এখন ব্যক্তিগত সহকারী থেকে শুরু করে পেশাগত কাজেও ব্যবহৃত হচ্ছে। এসব সিস্টেমের উত্তর কতটা নির্ভরযোগ্য, তারা কী কাজ করেছে এবং কী করতে পারেনি—তা স্পষ্টভাবে জানানো ব্যবহারকারীর আস্থা ও নিরাপত্তার জন্য গুরুত্বপূর্ণ।
তথ্যসূত্র: ওপেনএআইয়ের GPT-Live-1.1 নিরাপত্তা প্রতিবেদন
০ টি মন্তব্য