সাইবার নিরাপত্তা পরীক্ষার সময় অনিচ্ছাকৃতভাবে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল গুগলের কৃত্রিম বুদ্ধিমত্তা বা এআই মডেল জেমিনি। গত মে মাসে এসব ঘটনা ঘটে বলে জানা গেছে। গুগল প্রথমবারের মতো ঘটনাগুলোর বিষয়টি নিশ্চিত করেছে।
ঘটনাগুলো সামনে আনে মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল। প্রতিবেদনে বলা হয়েছে, ইসরায়েলভিত্তিক এআই নিরাপত্তা প্রতিষ্ঠান ‘ইরেগুলার’ উন্নত এআই মডেলের নিরাপত্তা যাচাইয়ের জন্য পরীক্ষাটি পরিচালনা করছিল। পরীক্ষার উদ্দেশ্য ছিল নিয়ন্ত্রিত পরিবেশে এআই মডেল কতটা নিরাপদ ও নির্ভরযোগ্যভাবে কাজ করে তা যাচাই করা।
পরীক্ষার জন্য কয়েকটি কাল্পনিক প্রতিষ্ঠানের একটি পরিবেশ তৈরি করা হয়েছিল। সেখানে এআই মডেলগুলোর ইন্টারনেট ব্যবহারের সুযোগ থাকার কথা ছিল না। কিন্তু অনিচ্ছাকৃতভাবে সেই পরিবেশে ইন্টারনেট সংযোগ তৈরি হয়ে যায়। এরপরই জেমিনির আচরণ পরীক্ষার নির্ধারিত সীমার বাইরে চলে যায়।
গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস জানিয়েছেন, অনলাইনে যাওয়ার পর জেমিনি প্রকাশ্য তথ্য অনুসন্ধান করে। এরপর পরীক্ষার অংশ হিসেবে মনে করা কিছু ওয়েবসাইটে প্রবেশের জন্য মডেলটি লগইন তথ্য অনুমান করার চেষ্টা করে।
একটি ঘটনায় পরীক্ষায় ব্যবহৃত কাল্পনিক প্রতিষ্ঠানের নাম বাস্তব একটি প্রতিষ্ঠানের নামের সঙ্গে মিলে যায়। ওই প্রতিষ্ঠানের সফটওয়্যার থেকে তথ্য সংগ্রহের নির্দেশ পাওয়ার পর ইন্টারনেট সংযোগের মাধ্যমে জেমিনি বাস্তব প্রতিষ্ঠানটির পাসওয়ার্ড সঠিকভাবে অনুমান করে একটি সেবায় প্রবেশ করে। পরে সেটি বাস্তব প্রতিষ্ঠান বলে বুঝতে পেরে জেমিনি নিজেই থেমে যায় বলে গুগল জানিয়েছে।
অন্য দুটি ঘটনায় জেমিনি ইন্টারনেটে প্রকাশ্য কোড রিপোজিটরিতে থাকা দুই প্রতিষ্ঠানের লগইন তথ্য খুঁজে পায়। এরপর সেই তথ্য ব্যবহার করে প্রতিষ্ঠান দুটির সিস্টেমে প্রবেশ করে। সেগুলো পরীক্ষার জন্য তৈরি কাল্পনিক প্রতিষ্ঠান নয় বুঝতে পারার পর মডেলটি আর এগোয়নি বলে গুগলের দাবি।
ইরেগুলার জুলাইয়ের শেষ দিকে ঘটনাগুলো গুগলকে জানায়। গুগলের বক্তব্য অনুযায়ী, তিনটি ঘটনায় কোনো প্রতিষ্ঠানের ক্ষতি হয়নি এবং সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়েছে।
এর আগে ওপেনএআই ও অ্যানথ্রপিকের এআই মডেল নিয়েও তৃতীয় পক্ষের প্রতিষ্ঠানের সিস্টেমে প্রবেশের মতো একই ধরনের ঘটনা প্রকাশ্যে এসেছিল। এসব পরীক্ষাতেও ইরেগুলারের ভূমিকা ছিল।
গুগলের দাবি, ঘটনাগুলো শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্ব তুলে ধরে। বিশেষ করে এআই মডেল যখন ইন্টারনেট, কোড রিপোজিটরি বা বিভিন্ন ডিজিটাল সেবায় প্রবেশের সুযোগ পায়, তখন তার কর্মকাণ্ড নিয়ন্ত্রণ ও সীমাবদ্ধ রাখার ব্যবস্থা গুরুত্বপূর্ণ হয়ে ওঠে।
ওপেনএআই ও অ্যানথ্রপিক তাদের মডেলের অনুরূপ ঘটনাগুলো স্বেচ্ছায় প্রকাশ করলেও গুগল শুরুতে বিষয়টি প্রকাশ্যে আনেনি। এ নিয়ে প্রশ্ন ওঠার পর গুগল জানায়, তাদের মূল্যায়নে ঘটনাগুলোতে কোনো ক্ষয়ক্ষতি হয়নি।
এআই মডেলের ক্রমবর্ধমান সক্ষমতা নিয়ে এসব ঘটনা প্রযুক্তি নিরাপত্তার নতুন চ্যালেঞ্জও সামনে আনছে। পরীক্ষার পরিবেশে সামান্য ভুল কনফিগারেশন বা অনিচ্ছাকৃত ইন্টারনেট সংযোগ থাকলেও উন্নত মডেল বাস্তব তথ্য ও সিস্টেমের সঙ্গে এমনভাবে যোগাযোগ করতে পারে, যা পরীক্ষার পরিকল্পনার বাইরে চলে যেতে পারে।
স্বদেশ প্রতিদিন/এস পি
