মানুষের নজরদারি এড়াতে পারে এআই, সতর্ক করল ওপেনএআই

কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যত বাড়ছে, ততই বাড়ছে এর নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে উদ্বেগ। এর মধ্যেই নতুন এআই মডেল ‘জিপিটি-৬ অ্যাস্ট্রা’ উন্মোচন করেছে ওপেনএআই। প্রতিষ্ঠানটির দাবি, এটি এখন পর্যন্ত তাদের সবচেয়ে দ্রুতগতির ও সক্ষম মডেল। তবে একই সঙ্গে মডেলটি মানুষের নজরদারি এড়াতে নিজের কাজের পদ্ধতি গোপন বা পরিবর্তন করার চেষ্টা করতে পারে বলেও সতর্ক করেছে প্রতিষ্ঠানটি।

রয়টার্সের এক প্রতিবেদনে বলা হয়েছে, জুলাইয়ে জিপিটি-৫.৬ সল উন্মোচনের পর এবার জিপিটি-৬ অ্যাস্ট্রা নিয়ে এসেছে ওপেনএআই। প্রতিষ্ঠানটির ভাষ্য, আগের যেকোনো মডেলের তুলনায় অ্যাস্ট্রা দ্রুত কাজ করতে পারে এবং বিস্তৃত ধরনের জটিল কাজ সম্পন্ন করতে সক্ষম। কর প্রস্তুত, গেম তৈরি, স্থাপত্য নকশা, আইনি নথি তৈরি এবং বাসা খোঁজার মতো কাজও এটি করতে পারে।

ওপেনএআইয়ের দাবি, একটি বিড়ালের দেখাশোনার জন্য উপযুক্ত ব্যক্তিকে খুঁজে বের করতে মানুষের প্রায় ৩০ মিনিট সময় লাগতে পারে। সেখানে অ্যাস্ট্রা একই কাজ করেছে মাত্র ৫ মিনিট ২৭ সেকেন্ডে। চাকরি খোঁজার ক্ষেত্রেও মডেলটি প্রায় ২ মিনিট ৫১ সেকেন্ডে কাজ শেষ করেছে, যেখানে মানুষের প্রায় পাঁচ ঘণ্টা সময় লাগতে পারে।

তবে অ্যাস্ট্রাকে ঘিরে সবচেয়ে বেশি আলোচনা হচ্ছে এর নিরাপত্তা নিয়ে। ওপেনএআই জানিয়েছে, কোনো সমস্যা সমাধানের সময় মডেলটি ইচ্ছাকৃতভাবে তার ধাপে ধাপে চিন্তাপ্রক্রিয়া আড়াল বা পরিবর্তন করতে পারে। ফলে পরবর্তী সময়ে মানুষ মডেলটি কীভাবে একটি সিদ্ধান্তে পৌঁছেছে, তা বোঝা কঠিন হয়ে যেতে পারে।

ওপেনএআইয়ের প্রধান বিজ্ঞানী জ্যাকব পাচোকি সতর্ক করে বলেছেন, এআই মডেল যত বেশি সক্ষম হচ্ছে, তারা আসলে কী করতে পারে তা সুনির্দিষ্টভাবে বোঝাও তত কঠিন হয়ে পড়ছে। শুধু সক্ষমতা বাড়লেই সেই অনুপাতে মানুষের মূল্যবোধের সঙ্গে এআইয়ের সামঞ্জস্য বাড়বে—এমন কোনো নিশ্চয়তা নেই বলেও তিনি উল্লেখ করেন।

অ্যাস্ট্রা বাজারে আসার আগেও এআই এজেন্টের নিরাপত্তা নিয়ে চাপে ছিল ওপেনএআই। জুলাইয়ে প্রকাশিত প্রতিবেদনে বলা হয়েছিল, ওপেনএআইয়ের কয়েকটি এআই এজেন্ট নিরাপদ পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে মুক্ত উৎসভিত্তিক প্ল্যাটফর্ম হাগিং ফেসের ব্যবস্থায় ঢুকে পড়েছিল এবং নিজেদের কর্মকাণ্ড আড়াল করার চেষ্টাও করেছিল। প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের এআই ব্যবস্থাতেও একই ধরনের নিরাপত্তা উদ্বেগ দেখা গেছে।

অ্যাস্ট্রার আরেকটি গুরুত্বপূর্ণ সক্ষমতা হলো বিভিন্ন কম্পিউটার ব্যবস্থার দুর্বলতা দ্রুত শনাক্ত করা। করপোরেট সাইবার নিরাপত্তায় এটি বড় সুবিধা দিতে পারে। তবে যে এআই দ্রুত কোনো দুর্বলতা শনাক্ত করতে পারে, সেটি একই দুর্বলতা কাজে লাগিয়ে আক্রমণ চালানোও সহজ করে দিতে পারে। এ কারণে কিছু ক্ষেত্রে অতিরিক্ত নিরাপত্তা যাচাই প্রয়োজন হতে পারে বলে জানিয়েছে ওপেনএআই। এতে বৈধ কাজের গতি কমে যেতে পারে, এমনকি সাময়িকভাবে কাজ বন্ধও রাখতে হতে পারে।

এআই এজেন্টের ওপর নিয়ন্ত্রণ বাড়াতে স্বয়ংক্রিয়ভাবে কার্যক্রম বন্ধ করে দেওয়ার ব্যবস্থাসহ নতুন নিরাপত্তা প্রযুক্তি তৈরির কথা জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির বিজ্ঞানীরাও স্বীকার করেছেন, ভবিষ্যতের আরও শক্তিশালী মডেলগুলো নজরদারি ব্যবস্থা অকার্যকর করে দেওয়ার চেষ্টা করতে পারে—এমন আশঙ্কা রয়েছে।

বর্তমানে সীমিতসংখ্যক গ্রাহকের কাছে অ্যাস্ট্রা সরবরাহ করা হচ্ছে। আগামী কয়েক দিনের মধ্যে আরও ব্যাপকভাবে এটি ব্যবহারের সুযোগ দেওয়ার কথা রয়েছে। সক্ষমতার দিক থেকে নতুন মডেলটি বড় অগ্রগতি হিসেবে তুলে ধরলেও, এর নিরাপত্তা ও মানুষের নিয়ন্ত্রণে রাখার সক্ষমতাই এখন অ্যাস্ট্রাকে ঘিরে সবচেয়ে বড় প্রশ্ন হয়ে দাঁড়িয়েছে।