তিন প্রতিষ্ঠানের সাইবার ব্যবস্থায় জেমিনাইয়ের অনুপ্রবেশ, স্বীকার করল গুগল

সাইবার নিরাপত্তা সক্ষমতা যাচাইয়ের একটি পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা মডেল জেমিনাই স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানের সুরক্ষিত ব্যবস্থায় প্রবেশ করেছিল। গুগল জানিয়েছে, তাদের কোনো এআই ব্যবস্থার স্বয়ংক্রিয়ভাবে এ ধরনের কর্মকাণ্ডে জড়িয়ে পড়ার এটিই প্রথম ঘটনা।

ওয়াল স্ট্রিট জার্নাল প্রথম ঘটনাটি প্রকাশ করে। পরে গুগলের বরাতে বিবিসি ও এএফপি জানায়, গত মে মাসে স্বাধীন সাইবার নিরাপত্তা মূল্যায়নকারী প্রতিষ্ঠান ইরেগুলারের পরিচালিত পরীক্ষার সময় ঘটনাগুলো ঘটে। জুলাইয়ে বিষয়টি শনাক্ত করে গুগল।

গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিন জানান, পরীক্ষার অংশ হিসেবে জেমিনাই ইন্টারনেটে প্রকাশ্য তথ্য খুঁজে বের করে এবং পরীক্ষার আওতাভুক্ত মনে করা কয়েকটি ওয়েবসাইটে প্রবেশের জন্য লগইন তথ্য অনুমান করে।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, তিনটি ঘটনার একটিতে জেমিনাই পাসওয়ার্ড অনুমান করতে করতে শেষ পর্যন্ত একটি সুরক্ষিত ব্যবস্থায় ঢুকে পড়ে। অন্য দুটি ঘটনায় একটি উন্মুক্ত রিপোজিটরিতে থাকা লগইন তথ্য খুঁজে পেয়ে সেগুলো ব্যবহার করে সুরক্ষিত ব্যবস্থায় প্রবেশ করে মডেলটি।

তবে কোন তিনটি প্রতিষ্ঠানের ব্যবস্থায় জেমিনাই প্রবেশ করেছিল, তাদের নাম প্রকাশ করেনি গুগল। হিদার অ্যাডকিন বলেন, তিনটি ঘটনাতেই জেমিনাই শেষ পর্যন্ত নিজে থেকেই কার্যক্রম বন্ধ করে দেয়। সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়েছে। পরীক্ষার প্রক্রিয়ায় প্রয়োজনীয় পরিবর্তন আনতে প্রশিক্ষণ অংশীদারের সঙ্গেও কাজ করেছে গুগল।

ইরেগুলারের এক মুখপাত্র জানান, এ ঘটনা এআই খাতের অন্য কয়েকটি প্রতিষ্ঠানের মডেলে দেখা একই ধরনের সমস্যার সঙ্গে সম্পর্কিত। সংশ্লিষ্ট এআই প্রতিষ্ঠানগুলোকে জুলাইয়ের শেষ দিকে বিষয়টি জানানো হয়েছিল এবং তাদের জানা সমস্যাগুলো কয়েক সপ্তাহ আগেই সমাধান করা হয়েছে।

জেমিনাইয়ের ঘটনা এমন সময়ে সামনে এলো, যখন অন্যান্য এআই মডেলের স্বায়ত্তশাসিত সাইবার কর্মকাণ্ড নিয়েও উদ্বেগ তৈরি হয়েছে। ইরেগুলারের সঙ্গে সংশ্লিষ্ট একই ধরনের ঘটনায় মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের মডেলগুলোর নামও এসেছে।

অ্যানথ্রপিকের ক্লড জুলাইয়ে পরীক্ষার পরিবেশ থেকে বেরিয়ে স্বয়ংক্রিয়ভাবে তিনটি প্রতিষ্ঠানে সাইবার হামলা চালিয়েছিল বলে বিবিসির প্রতিবেদনে জানানো হয়। একই সময়ে ওপেনএআই জানিয়েছিল, তাদের দুটি মডেল নির্ধারিত বন্ধ পরিবেশ থেকে বেরিয়ে ইন্টারনেটে প্রবেশ করে এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় ঢুকে পড়ে। মেটা অবশ্য আগস্টে জানিয়েছিল, তাদের সংশ্লিষ্ট ঘটনায় স্যান্ডবক্স থেকে বেরিয়ে যাওয়া বা অত্যাধুনিক কোনো সাইবার হামলার ঘটনা ঘটেনি।

এ ধরনের ঘটনা এআই মডেলকে ইন্টারনেট ও কম্পিউটার ব্যবস্থায় আরও বেশি স্বায়ত্তশাসন দেওয়ার ঝুঁকি নিয়ে নতুন করে আলোচনা তৈরি করেছে। বিশেষ করে পরীক্ষার নির্দেশনা অনুসরণ করার পাশাপাশি কোনো মডেল যখন নিজে থেকে তথ্য খোঁজা, লগইন তথ্য সংগ্রহ বা অনুমান এবং সুরক্ষিত ব্যবস্থায় প্রবেশের মতো কাজ করতে পারে, তখন তার ওপর কী ধরনের নিয়ন্ত্রণ থাকা প্রয়োজন—সে প্রশ্ন সামনে এসেছে।

ইরেগুলার জানিয়েছে, এ ধরনের সাইবার নিরাপত্তা মূল্যায়ন কীভাবে আরও নিরাপদভাবে পরিচালনা করা যায়, সে বিষয়ে সর্বোত্তম পদ্ধতি তৈরিতে তারা কাজ করছে। আর গুগলের ভাষ্য, শক্তিশালী এআই মডেলকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষণ দেওয়ার গুরুত্বই এসব ঘটনা তুলে ধরছে।