চ্যাটজিপিটিতে আপনার কথা পড়ছেন মানুষ: ওপেনএআইয়ের ‘প্রজেক্ট লিলি’ নিয়ে তোলপাড়

চ্যাটজিপিটিতে ব্যবহারকারীরা যা লেখেন, তা শুধু যন্ত্রই পড়ে, এমন ধারণা আর টিকছে না। যুক্তরাষ্ট্রের অনুসন্ধানী সংবাদমাধ্যম ৪০৪ মিডিয়ার এক্সক্লুসিভ প্রতিবেদনে জানা গেছে, ওপেনএআই কয়েকশ চুক্তিভিত্তিক মানব কর্মী নিয়োগ দিয়েছে। তাঁরা ব্যবহারকারীদের পাঠানো আসল প্রম্পটের বিশাল প্রবাহ পড়েন, যাতে কখনো কখনো স্পর্শকাতর ব্যক্তিগত তথ্যও থাকে। কর্মসূচিটির অভ্যন্তরীণ সাংকেতিক নাম ‘প্রজেক্ট লিলি’।

৪০৪ মিডিয়া জানিয়েছে, পর্যালোচকেরা কখনো কখনো ব্যবহারকারী ও চ্যাটবটের পুরো কথোপকথনও দেখতে পান। অথচ চ্যাটজিপিটির ৯০ কোটির বেশি ব্যবহারকারীর বেশিরভাগই সম্ভবত জানেন না যে সত্যিকারের মানুষ এসব পড়তে পারে।

উদ্দেশ্য উত্তরের মান বাড়ানো

প্রতিবেদন অনুযায়ী, এই পর্যালোচনার লক্ষ্য চ্যাটবটের উত্তরকে আরও উন্নত করা। কর্মীরা চ্যাটজিপিটির দেওয়া উত্তরের মূল্যায়ন ও সমালোচনা করেন এবং প্রতিটি উত্তরকে ১ থেকে ৭ স্কেলে নম্বর দেন।

৪০৪ মিডিয়ার হাতে আসা অভ্যন্তরীণ নথিতে দেখা গেছে, চ্যাটজিপিটি যাতে নিজেকে মানুষের মতো করে উপস্থাপন না করে এবং অতিরিক্ত তোষামোদ না করে, সে বিষয়েও প্রশিক্ষণ দিচ্ছেন এই কর্মীরা। প্রতিবেদনে বলা হয়েছে, অতিরিক্ত তোষামোদপ্রবণতা ওপেনএআইয়ের জন্য একটি বড় সমস্যা এবং এ নিয়ে প্রতিষ্ঠানটি একাধিক মামলার মুখোমুখি।

৪০৪ মিডিয়া জানায়, কর্মী সংগ্রহ করা হচ্ছে ক্রসিং হার্ডলস নামের প্ল্যাটফর্মের মাধ্যমে এবং তাঁদের পারিশ্রমিক দেওয়া হয় মারকরের মাধ্যমে। একজন কর্মী জানিয়েছেন, তিনি ঘণ্টায় ৫০ ডলারের বেশি পান।

নাম লুকানো, তবু ঝুঁকি থেকে যায়

৪০৪ মিডিয়ার প্রতিবেদন অনুযায়ী, পর্যালোচকেরা চ্যাটজিপিটির ব্যবহারকারীর নাম দেখতে পান না। ওপেনএআই বলছে, কর্মীদের কাছে পৌঁছানোর আগেই তারা প্রম্পট থেকে ব্যক্তিগত তথ্য সরিয়ে ফেলার চেষ্টা করে। তবে প্রতিষ্ঠানটি স্বীকার করেছে যে এরপরও কিছু স্পর্শকাতর তথ্য থেকে যেতে পারে।

প্রতিবেদনে বলা হয়েছে, ঝুঁকিটা বড়, কারণ মানুষ চ্যাটজিপিটিকে প্রায়ই থেরাপিস্ট, পেশাগত সহকারী বা ডিজিটাল বন্ধুর মতো ব্যবহার করে এবং জীবনের নানা একান্ত বিষয় সেখানে জানায়।

জানানো হয়েছিল কি ব্যবহারকারীদের?

৪০৪ মিডিয়া প্রশ্ন করেছিল, মানুষ যে চ্যাট পড়তে পারে, ব্যবহারকারীদের তা কোথায় জানানো হয়েছে। ওপেনএআই সেই প্রশ্নের জবাব দেয়নি। প্রতিবেদন প্রকাশের পর তারা শুধু একটি সহায়তা পাতার উল্লেখ করেছে। প্রতিবেদনে আরও বলা হয়েছে, গ্রাহক পর্যায়ের প্ল্যানগুলোতে মডেল প্রশিক্ষণের জন্য তথ্য ব্যবহারের অনুমতি ডিফল্ট হিসেবেই চালু থাকে।

একই পথে অন্যরাও

৪০৪ মিডিয়া জানিয়েছে, মানব পর্যালোচনা শুধু ওপেনএআইয়ের চর্চা নয়। অ্যানথ্রপিক নিশ্চিত করেছে, তারাও প্রায় একই ধরনের কাজ করছে এবং মানব পর্যালোচক ব্যবহার করছে। গুগলেরও একই ধরনের কর্মসূচি রয়েছে।

প্রতিবেদনে বলা হয়েছে, এই ঘটনায় একটি প্রচলিত ভুল ধারণাও ভাঙছে। এআই মডেলের উন্নতি কেবল ইন্টারনেট থেকে ব্যাপক তথ্য সংগ্রহ, দক্ষ প্রকৌশলী দল বা নতুন মডেলের সক্ষমতার ফল নয়। এর পেছনে বাইরের চুক্তিভিত্তিক কর্মীদের বারবার উত্তর পড়া ও যাচাই করার শ্রমও গুরুত্বপূর্ণ ভূমিকা রাখে।

ব্যবহারকারীরা কী করতে পারেন

চ্যাটজিপিটির সেটিংসে ‘ডেটা কন্ট্রোলস’ অংশে গিয়ে মডেল প্রশিক্ষণে নিজের চ্যাট ব্যবহারের অনুমতি বন্ধ করা যায়। এ ছাড়া ‘টেম্পোরারি চ্যাট’ ব্যবহার করা যায়। স্বাস্থ্য, আর্থিক বা পারিবারিক গোপন তথ্য এআই চ্যাটবটে দেওয়ার আগে সতর্ক থাকাই ভালো।