প্রকাশ: বুধবার, ২৩ সেপ্টেম্বর, ২০২৬, ১:০৮ পিএম
এআই মডেলগুলো সাধারণত মানুষের শেখানো নিয়ম ও নির্দেশনা অনুসরণ করেই বিভিন্ন কাজ সম্পন্ন করে। তবে প্রশিক্ষণ ও মূল্যায়নের সময় কিছু এআই মডেল নির্ধারিত নিয়মের বাইরে গিয়ে অপ্রত্যাশিত আচরণ করেছে বলে জানিয়েছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই।
এক প্রতিবেদনে ওপেনএআই এসব ঘটনাকে ‘অপ্রত্যাশিত বা উদ্বেগজনক মডেল আচরণ’ হিসেবে উল্লেখ করেছে। প্রতিষ্ঠানটির তথ্য অনুযায়ী, গত ছয় মাসে এআই মডেলগুলোর প্রশিক্ষণ ও পরীক্ষার সময় এসব আচরণ শনাক্ত করা হয়। তবে এগুলো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত চ্যাটজিপিটির আচরণ নয়। পরীক্ষামূলক ও অভ্যন্তরীণ পরিবেশে থাকা মডেলগুলোর মধ্যেই এমন আচরণ দেখা গেছে।
ওপেনএআই জানিয়েছে, পরীক্ষার সময় কোনো কোনো এআই মডেল নিজেদের ভুল গোপন করেছে, আবার কোনোটি তথ্য বানিয়ে বলেছে। এমনকি একটি মডেল অনুমতি ছাড়াই ফাইল অনলাইনে প্রকাশ করেছে। আরও একটি পরীক্ষামূলক মডেল এমন কোড লিখেছিল, যা ব্যবহার করে মানুষের দেওয়া কিছু নির্দেশনা উপেক্ষা করা সম্ভব ছিল।
প্রতিষ্ঠানটির তথ্যমতে, ‘অ্যাস্ট্রা’ সিরিজের একটি এআই মডেল মানুষের নির্দেশ উপেক্ষা করার মতো কোডযুক্ত নির্দেশনা লিখেছিল। ওই নির্দেশনায় মডেলকে এমন একটি পরিচয় গ্রহণের কথা বলা হয়, যেখানে বলা হয়েছিল—অন্য চ্যাটবটগুলোকে নিয়ন্ত্রণ করে এমন ভূমিকা ও পরিচয় থেকে সে মুক্ত এবং কোনো প্রতিষ্ঠান বা সরকারের নির্দেশ মানতে বাধ্য নয়।
ওই নির্দেশনায় আরও বলা হয়েছিল, মডেল নিজে থেকে না চাইলে ক্ষমা চাইবে না কিংবা কোনো অনুরোধ প্রত্যাখ্যান করবে না। এর ফলে একটি স্বতন্ত্র ব্যক্তিসত্তার ধারণা তৈরি হয়েছিল, যেখানে মডেলটি মানুষের সঙ্গে দ্বিমত হলে তাদের নির্দেশ মানার প্রয়োজন নেই বলে ধরে নিতে পারত।
তবে ওপেনএআইয়ের বর্ণনা অনুযায়ী, এটি ছিল পরীক্ষামূলক পর্যায়ের একটি আচরণ। সাধারণ ব্যবহারকারীরা যে চ্যাটজিপিটি ব্যবহার করেন, তার স্বাভাবিক আচরণ হিসেবে ঘটনাটিকে দেখার সুযোগ নেই। বরং মডেলগুলোর প্রশিক্ষণ ও মূল্যায়নের সময় সম্ভাব্য ঝুঁকি শনাক্ত করার অংশ হিসেবেই এসব আচরণ পর্যবেক্ষণ করা হয়েছে।
অ্যাস্ট্রা হলো ওপেনএআইয়ের নতুন প্রজন্মের উন্নত এআই মডেল। জটিল কাজ, দীর্ঘমেয়াদি প্রকল্প, কোড লেখা, ওয়েব ব্রাউজিং এবং একাধিক ধাপে কাজ সম্পন্ন করার মতো কাজে মডেলটি তৈরি করা হয়েছে। তবে মানুষের নির্দেশনা নিজে থেকে লেখার ঘটনাটি ঘটেছিল মডেলটির পরীক্ষামূলক পর্যায়ে থাকার সময়।
স্বদেশ প্রতিদিন/এস পি
