সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে তিনি বলেন, এআই মডেলকে শুরু থেকেই সম্ভাব্য ঝুঁকিপূর্ণ হিসেবে ধরে নিয়ে নিরাপত্তাব্যবস্থা তৈরি করা উচিত। তাঁর মতে, এআইয়ের উত্তর, সুপারিশ কিংবা কার্যক্রম যাচাই না করে গ্রহণ করা বিপজ্জনক হতে পারে। বিশেষ করে, যেসব এআই এজেন্ট মানুষের সরাসরি হস্তক্ষেপ ছাড়াই কাজ করতে পারে এবং প্রতিষ্ঠানের সংবেদনশীল তথ্য ব্যবহারের সুযোগ পায়, সেগুলোর ক্ষেত্রে বাড়তি সতর্কতা প্রয়োজন। নাদেলা এআই ব্যবস্থার নিরাপত্তা নিশ্চিতে মডেল ও সেটিকে পরিচালনাকারী সফটওয়্যারের নিয়ন্ত্রণব্যবস্থা আলাদা রাখা, কার্যক্রমের নির্ভরযোগ্য রেকর্ড সংরক্ষণ এবং মানুষের তদারকি নিশ্চিত করার ওপর গুরুত্ব দিয়েছেন। তাঁর প্রস্তাব অনুযায়ী, কোনো এআই মডেল কাজ করার সময় অপ্রত্যাশিত বা ঝুঁকিপূর্ণ আচরণ করলে অনুমোদিত ব্যক্তির যেন সেটিকে থামানো কিংবা বন্ধ করার সুযোগ থাকে। বিষয়টিকে তিনি ‘ইমার্জেন্সি ব্রেক’ বা জরুরি ব্রেকের সঙ্গে তুলনা করেছেন। পাশাপাশি, এআইয়ের কার্যক্রম যাচাইয়ের জন্য একটি মডেলের ওপর আরেকটি মডেলের পরীক্ষাকে একমাত্র নির্ভরযোগ্য পদ্ধতি হিসেবে বিবেচনা না করারও পরামর্শ দিয়েছেন তিনি।
কারণ, একটি এআই মডেল অন্যটির ভুল বা নিরাপত্তার দুর্বলতা শনাক্ত করতে ব্যর্থ হতে পারে। তাই স্বাধীনভাবে যাচাই, কার্যক্রম পর্যবেক্ষণ, ব্যবহারের অনুমতি সীমিত রাখা এবং নিরাপত্তাজনিত ঘটনার তথ্য প্রকাশের মতো পদক্ষেপ গুরুত্বপূর্ণ। নাদেলার এ সতর্কবার্তা এসেছে এমন এক সময়ে, যখন বিভিন্ন প্রতিষ্ঠান কাজের গতি বাড়াতে স্বয়ংক্রিয় এআই এজেন্টের ব্যবহার বাড়াচ্ছে। এ প্রযুক্তি সময় ও শ্রম সাশ্রয় করলেও ভুল নির্দেশনা, অনাকাঙ্ক্ষিত পদক্ষেপ কিংবা নিরাপত্তার দুর্বলতা থেকে বড় ধরনের ক্ষতি হতে পারে। তাই এআইয়ের সুবিধা গ্রহণের পাশাপাশি মানুষের কার্যকর নিয়ন্ত্রণ ও জবাবদিহি নিশ্চিত করাই নিরাপদ ব্যবহারের অন্যতম শর্ত।
