কৃত্রিম বুদ্ধিমত্তাভিত্তিক পরিষেবা ‘গ্রোক’-এর মাধ্যমে অশ্লীল ও আপত্তিকর কনটেন্ট ছড়ানোর অভিযোগে বড় পদক্ষেপ নিল সামাজিক যোগাযোগমাধ্যম প্ল্যাটফর্ম এক্স (সাবেক টুইটার)। ভারতের সরকারি সূত্রের বরাতে জানা গেছে, কেন্দ্রের নির্দেশে এক্স ইতোমধ্যে ৩ হাজার ৫০০টি পোস্ট ব্লক করেছে এবং ৬০০টি অ্যাকাউন্ট স্থায়ীভাবে মুছে ফেলেছে।
রোববার (১১ জানুয়ারি) ভারতীয় সংবাদ মাধ্যম এনডিটিভির এক প্রতিবেদনে এসব তথ্য জানা গেছে।
সরকারি সূত্র জানিয়েছে, অশ্লীল বিষয়বস্তু চিহ্নিত হওয়ার পর এক্স কর্তৃপক্ষ সরকারকে আশ্বস্ত করেছে যে তারা ভবিষ্যতে তাদের প্ল্যাটফর্মে এ ধরনের কনটেন্ট অনুমোদন করবে না এবং ভারতীয় আইন ও সরকারি নির্দেশিকা পুরোপুরি মেনে চলবে।
এই পদক্ষেপ এসেছে ভারতীয় ইলেকট্রনিক্স ও তথ্য প্রযুক্তি মন্ত্রণালয় (এমইআইটিওয়াই) কর্তৃক এক সপ্তাহ আগে পাঠানো একটি কড়া নোটিশের পর। ওই চিঠিতে বিলিয়নেয়ার ইলন মাস্কের নেতৃত্বাধীন এক্স কর্পোরেশনকে জানানো হয়েছিল, ‘গ্রোক’ এবং এক্সএআই -এর অন্যান্য এআই পরিষেবার অপব্যবহার করে অশ্লীল, নগ্ন, যৌনভাবে স্পষ্ট ও আপত্তিকর বিষয়বস্তু তৈরি, প্রকাশ, শেয়ার বা আপলোড করা হচ্ছে, যা অবিলম্বে বন্ধ করতে হবে।
নোটিশে কেন্দ্র স্পষ্টভাবে সতর্ক করে জানায়, নির্দেশ অমান্য করা হলে বিষয়টি গুরুত্ব সহকারে দেখা হবে এবং এর ফলে কঠোর আইনি ব্যবস্থা নেওয়া হতে পারে। ভারতীয় আইন অনুযায়ী প্ল্যাটফর্ম এবং সংশ্লিষ্ট কর্মকর্তাদের বিরুদ্ধে ব্যবস্থা গ্রহণের কথাও উল্লেখ করা হয়।
মন্ত্রণালয়ের চিঠিতে বলা হয়েছে, ব্যবহারকারীরা গ্রোককে অপব্যবহার করে ভুয়া অ্যাকাউন্ট তৈরি করছে এবং এর মাধ্যমে মহিলাদের অশ্লীল ছবি বা ভিডিও তৈরি, হোস্ট, প্রকাশ ও শেয়ার করা হচ্ছে, যার উদ্দেশ্য তাদের অপমান ও হেয় করা।
এই পরিস্থিতিতে এক্স-কে গ্রোকের প্রযুক্তিগত ও প্রশাসনিক কাঠামোর একটি বিস্তৃত পর্যালোচনা করার নির্দেশ দেওয়া হয়েছে। একই সঙ্গে এআই সহকারী গ্রোকের জন্য কঠোর ব্যবহারকারী নীতিমালা প্রয়োগের কথা বলা হয়েছে, যার মধ্যে নিয়মভঙ্গকারীদের অ্যাকাউন্ট স্থগিত ও বরখাস্ত করার ব্যবস্থাও অন্তর্ভুক্ত।
মন্ত্রণালয় সতর্ক করেছে, নির্দেশনা মানা না হলে এক্স আইটি আইনের ধারা ৭৯-এর অধীনে ‘সেফ হারবার’ বা নিরাপদ আশ্রয় সুবিধা হারাতে পারে। পাশাপাশি ভারতীয় ন্যায় সংহিতা, নারীর অশ্লীল প্রতিনিধিত্ব আইন এবং যৌন অপরাধ থেকে শিশুদের সুরক্ষা আইন (পিওসিএসও) সহ একাধিক আইনের অধীনে শাস্তিমূলক ব্যবস্থা নেওয়া হতে পারে।
চিঠিতে আরও বলা হয়েছে, এই সমস্যা শুধু ভুয়া অ্যাকাউন্ট তৈরির মধ্যেই সীমাবদ্ধ নয়। প্রম্পট ইঞ্জিনিয়ারিং, চিত্র ম্যানিপুলেশন এবং সিন্থেটিক আউটপুটের মাধ্যমে প্রকৃত নারীদের ছবি বা ভিডিওকে লক্ষ্যবস্তু করা হচ্ছে, যা প্ল্যাটফর্ম-স্তরের সুরক্ষা ও প্রয়োগ ব্যবস্থার গুরুতর ব্যর্থতা নির্দেশ করে।
মন্ত্রণালয়ের ভাষায়, এটি প্রযুক্তিগত প্রক্রিয়া ও প্রযোজ্য আইন লঙ্ঘন করে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির চরম অপব্যবহারের সমান।
