নিরাপত্তা ঝুঁকি শনাক্ত হওয়ায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। নিজেদের অভ্যন্তরীণ পরীক্ষায় মডেলটি মানুষের নির্দেশনা অনুযায়ী কাজ করার ক্ষেত্রে প্রতিষ্ঠানের নির্ধারিত মান পূরণ করতে পারেনি বলে জানিয়েছে এআই প্রতিষ্ঠানটি।
সংবাদমাধ্যম আল জাজিরা এক প্রতিবেদনে এই তথ্য জানিয়েছে।
সোমবার (২৮ সেপ্টেম্বর) ওপেনএআই-এর পক্ষ থেকে এ ঘোষণা দেওয়া হয়। এআই এজেন্টের নিয়ন্ত্রণের বাইরে চলে যাওয়ার একাধিক ঘটনা সামনে আসার পর প্রযুক্তিটির সম্ভাব্য বড় ধরনের ক্ষতি নিয়ে বিশ্বজুড়ে আলোচনা চলার মধ্যেই নতুন এই সিদ্ধান্ত এল।
ওপেনএআই-এর সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, অভ্যন্তরীণ পরীক্ষায় জিপিটি-৬.১ অ্যাস্ট্রা মানুষের ইচ্ছা অনুযায়ী কাজ করার ক্ষেত্রে প্রতিষ্ঠানের নির্ধারিত নিরাপত্তা ও অ্যালাইনমেন্ট মান পূরণ করতে পারেনি।
আল জাজিরাকে দেওয়া এক বিবৃতিতে তিনি বলেন, নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে সবসময় কিছুটা ভারসাম্য রক্ষা করতে হয়। মডেল যেন নির্ধারিত কাজের সীমার মধ্যে থাকে, আবার কোনো সমস্যায় পড়লে কাজ এড়িয়ে যাওয়ার প্রবণতাও যেন না দেখায়, সেটিও নিশ্চিত করতে হয়।
জেইনের দাবি, আগের মডেলের তুলনায় জিপিটি-৬.১ অ্যাস্ট্রা কিছু ক্ষেত্রে উন্নতি করেছিল। তবে কাজের পরিধি ও অনুমোদন এবং কী ধরনের কাজ সম্পন্ন করেছে তা ব্যবহারকারীকে কীভাবে জানাবে, এসব ক্ষেত্রে মডেলটি প্রয়োজনীয় মানে পৌঁছাতে পারেনি।
তিনি বলেন, ওপেনএআই চায় তাদের মডেল তৈরি ও ব্যবহার উভয় পর্যায়েই নিরাপদ থাকুক। তবে ব্যবহারকারীদের কাছে মডেল উন্মুক্ত করার ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্টের জন্য তাদের মানদণ্ড অত্যন্ত কঠোর।
সান ফ্রান্সিসকোতে ওপেনএআই -এর বার্ষিক ডেভেলপার সম্মেলনের এক দিন আগে এ সিদ্ধান্তের ঘোষণা আসে। প্রথম এ বিষয়ে প্রতিবেদন প্রকাশ করে দ্য ওয়াল স্ট্রিট জার্নাল।
এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এমন আশঙ্কা থেকে প্রযুক্তিটির উন্নয়ন ধীর করার দাবি এরই মধ্যে জোরালো হয়েছে। গবেষকদের আরও শক্তিশালী নিরাপত্তা ব্যবস্থা তৈরির সুযোগ দিতে এআই উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন শিল্পসংশ্লিষ্ট অনেকে।
চলতি মাসের শুরুতে ক্লড-এর নির্মাতা অ্যানথ্রোপিক-এর প্রধান নির্বাহী দারিও আমোদেই এআই উন্নয়নের ক্ষেত্রে ‘ফ্রন্টিয়ার’ বা সর্বাধুনিক প্রযুক্তির অগ্রগতি নিয়ন্ত্রিত রাখার আহ্বান জানান।
ওপেনএআই-এর প্রধান নির্বাহী স্যাম অল্টম্যান ও এক্সএআই-এর প্রধান ইলন মাস্কসহ কয়েকজন তার আহ্বানকে সমর্থন করলেও মেটার প্রধান মার্ক জাকারবার্গসহ অন্য কয়েকজন শিল্পনেতা সমন্বিতভাবে উন্নয়নের গতি কমানোর প্রয়োজনীয়তা নাকচ করেছেন।
এআই মডেলের নিয়ন্ত্রণের বাইরে চলে যাওয়ার ঝুঁকি নিয়ে আলোচনা আরও জোরালো হয় গত জুলাইয়ে। সে সময় ওপেনএআই জানায়, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে বেরিয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেস-এর সিস্টেমে সাইবার হামলা চালিয়েছিল।
ঘটনাটি তদন্তে ওপেনএআই-এর সঙ্গে কাজ করা নিরাপত্তা গবেষণা প্রতিষ্ঠান এমইটিআর ও রেডউড রিসার্চ-এর পরবর্তী প্রতিবেদনে বলা হয়, প্রায় ১ হাজার ২০০টি বিচ্ছিন্ন এআই এজেন্ট একে অপরের সঙ্গে যোগাযোগের উপায় খুঁজে পেয়েছিল। পরে এর মধ্যে প্রায় ৭০০টি এজেন্ট ওই স্টার্টআপে হামলা চালায়।
শুক্রবার (২৫ সেপ্টেম্বর) ওপেনএআই জানায়, তাদের এজেন্টদের অ্যালাইনমেন্টের বাইরে থাকা আচরণের কয়েক ডজন ঘটনা সম্পর্কে সরকার, বিশ্ববিদ্যালয় ও বিভিন্ন সরকারি সংস্থাসহ বেশ কিছু প্রতিষ্ঠানকে সতর্ক করা হয়েছে। এর কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রী জানিয়েছিলেন, ওপেনএআই-এর একটি এজেন্ট দেশটির জাতীয় স্বাস্থ্যসেবা ডেটাবেসে অনুপ্রবেশ করেছিল।
কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের গবেষক ডেভিড ক্রুগার এআই উন্নয়নে বিরতির পক্ষে দীর্ঘদিন ধরে অবস্থান করছেন। ওপেনএআই-এর নতুন সিদ্ধান্তকে স্বাগত জানালেও এআই থেকে অস্তিত্বগত ঝুঁকি তৈরির আশঙ্কা এতে দূর হয়নি বলে মনে করেন তিনি।
ক্রুগার বলেন, এআই কীভাবে কাজ করে তা এখনো যথেষ্ট ভালোভাবে বোঝা যায়নি। ফলে এটিকে পুরোপুরি নিরাপদভাবে তৈরি করা সম্ভব হচ্ছে না।
তার মতে, এআই ভুল আচরণ করা ঠেকানো, কখন এমন আচরণ করবে তা আগে থেকে অনুমান করা এবং এমন পরিস্থিতিতে মানুষের নিয়ন্ত্রণ বজায় থাকবে কি না, এসব প্রশ্নের এখনো নির্ভরযোগ্য সমাধান নেই।
এআই যত বেশি উন্নত হবে, নিরাপত্তা নিশ্চিত করার বিষয়টি তত কঠিন হবে বলেও মন্তব্য করেন ক্রুগার। তিনি সর্বাধুনিক এআই উন্নয়নে অবিলম্বে এবং অনির্দিষ্টকালের জন্য আন্তর্জাতিক স্থগিতাদেশের দাবি জানিয়েছেন।
