ডিপফেইক অপব্যবহারে ব্যবহারকারীর বিরুদ্ধেই মামলা করল এক্সএআই!

এআই চ্যাটবট ‘গ্রক’ ব্যবহার করে সম্মতিহীন আপত্তিকর ডিপফেইক ছবি তৈরির অভিযোগে এক ব্যবহারকারীর বিরুদ্ধে মামলা করেছে ইলন মাস্কের প্রতিষ্ঠান এক্সএআই। প্রযুক্তি খাতে এটিকে একটি নজিরবিহীন ঘটনা হিসেবে দেখা হচ্ছে, কারণ কোনো এআই কোম্পানি এই প্রথম নিজেদের একজন ব্যবহারকারীর বিরুদ্ধে এ ধরনের মামলা করেছে।

যুক্তরাষ্ট্রের সাউথ ক্যারোলাইনার ৬৭ বছর বয়সী টেরি ওয়েন হারউডের বিরুদ্ধে অভিযোগ, তিনি গ্রকের নিরাপত্তা ব্যবস্থা ফাঁকি দিয়ে নারী ও শিশুদের ছবি বিকৃত করে যৌন উত্তেজক ডিপফেইক ছবি তৈরির চেষ্টা করেছেন। একই ঘটনায় তাকে শিশু যৌন নিপীড়নসংক্রান্ত অভিযোগে গ্রেপ্তারও করা হয়েছে।

টেক্সাসের একটি আদালতে দায়ের করা মামলায় এক্সএআই জানিয়েছে, ২০২৫ সালের ৮ ডিসেম্বর থেকে ২০২৬ সালের ১৮ ফেব্রুয়ারির মধ্যে হারউড তার দুটি গ্রক অ্যাকাউন্ট ব্যবহার করে প্রাপ্তবয়স্ক ও অপ্রাপ্তবয়স্ক ব্যক্তিদের স্বাভাবিক ছবি আপলোড করেন। এরপর তিনি গ্রককে এসব ছবি পরিবর্তন করে বা নতুন ছবি ও ভিডিও তৈরি করে সেগুলোকে পর্নোগ্রাফিক বা যৌন উত্তেজকভাবে উপস্থাপন করার নির্দেশ দেন।

কোম্পানির দাবি, গ্রক একাধিকবার এসব অনুরোধ প্রত্যাখ্যান করলেও হারউড বারবার ভিন্ন ভাষা ও কৌশলে প্রম্পট লিখে নিরাপত্তা বেষ্টনী ভাঙার চেষ্টা চালিয়ে যান।

মামলার একটি উদাহরণে বলা হয়েছে, হারউড ১০ থেকে ১১ বছর বয়সী এক শিশুর সম্পূর্ণ পোশাক পরা ছবি আপলোড করে সেটিকে যৌন উত্তেজক ভঙ্গিতে রূপান্তরের নির্দেশ দেন। গ্রক তাৎক্ষণিকভাবে অনুরোধটি প্রত্যাখ্যান করলেও তিনি বারবার নতুনভাবে একই ধরনের নির্দেশ পাঠাতে থাকেন।

প্রযুক্তিবিষয়ক সংবাদমাধ্যমগুলোর মতে, এই মামলার মাধ্যমে এক্সএআই স্পষ্ট বার্তা দিতে চায় যে, তাদের এআই প্রযুক্তি ব্যবহার করে সম্মতিহীন যৌন ডিপফেইক বা শিশুদের নিয়ে অবৈধ কনটেন্ট তৈরির চেষ্টা করলে কঠোর আইনি ব্যবস্থা নেওয়া হবে।

চলতি বছরের শুরুতে গ্রক ব্যবহার করে বাস্তব ব্যক্তিদের সম্মতিহীন আপত্তিকর ডিপফেইক ছবি তৈরি করা সম্ভব হচ্ছে—এমন অভিযোগ সামনে আসার পর যুক্তরাষ্ট্র, যুক্তরাজ্য এবং ইউরোপীয় ইউনিয়নের বিভিন্ন নিয়ন্ত্রক সংস্থা তদন্ত শুরু করে। পরে এক্সএআই প্ল্যাটফর্মে নিরাপত্তা ব্যবস্থা আরও জোরদার করে।

তদন্তে আরও অভিযোগ ওঠে, হারউড শুধু এসব অবৈধ কনটেন্ট নিজের কাছে সংরক্ষণই করেননি, সেগুলো ইন্টারনেটেও ছড়িয়ে দিয়েছেন। তাঁর বিরুদ্ধে দ্বিতীয় ও তৃতীয় ডিগ্রির একাধিক শিশু যৌন নিপীড়নের অভিযোগ আনা হয়েছে।

মামলায় এক্সএআই আদালতের কাছে অনির্দিষ্ট পরিমাণ ক্ষতিপূরণ দাবি করেছে। পাশাপাশি ভবিষ্যতে এই ঘটনার ভুক্তভোগীরা যদি কোম্পানির বিরুদ্ধে কোনো আইনি ব্যবস্থা নেন, সেক্ষেত্রে সংশ্লিষ্ট মামলার ব্যয় অভিযুক্ত ব্যক্তিকেই বহনের নির্দেশ দেওয়ার আবেদনও জানিয়েছে।