এই খবরটি পডকাস্টে শুনুনঃ
কৃত্রিম বুদ্ধিমত্তা বা এআই অতিরিক্ত ঝুঁকিপূর্ণ হয়ে উঠলে পুরো সফটওয়্যার বন্ধ করে দেওয়ার ব্যবস্থা বা ‘কিল সুইচ’ এআই প্রতিষ্ঠানগুলোর জন্য বাধ্যতামূলক করার প্রয়োজন হতে পারে বলে জানিয়েছেন অ্যানথ্রপিকের সহপ্রতিষ্ঠাতা জ্যাক ক্লার্ক।
সংবাদমাধ্যম বিবিসির এক প্রতিবেদনে এ তথ্য জানানো হয়েছে।
গণমাধ্যমকে দেওয়া এক সাক্ষাৎকারে ক্লার্ক বলেন, শুধু এআই প্রতিষ্ঠানের নিজেদের কাছে কিল সুইচ থাকলেই হবে না, তৃতীয় কোনো পক্ষ যাতে সেই ব্যবস্থা পরীক্ষা করে দেখতে পারে, সেটিও নিশ্চিত করার প্রয়োজন হতে পারে।
অ্যানথ্রপিকের সাত সহপ্রতিষ্ঠাতার একজন ক্লার্ক বলেন, অধিকাংশ এআই গবেষণাগারেই সফটওয়্যার বন্ধ করে দেওয়ার নিজস্ব ব্যবস্থা রয়েছে। তবে ভবিষ্যতে এ ধরনের ব্যবস্থা রাখা বাধ্যতামূলক করতে আইন প্রণয়নের প্রয়োজন হতে পারে।
তিনি প্রশ্ন তোলেন, এআই কোম্পানিগুলোর জন্য কিল সুইচ রাখা কি বাধ্যতামূলক করা উচিত? সেই ব্যবস্থা বাস্তবে কাজ করে কি না, তা তৃতীয় কোনো পক্ষের মাধ্যমে যাচাই করা সম্ভব কি না, সেটিও কি নিশ্চিত করা দরকার?
ক্লার্কের মতে, এ ধরনের বিষয় নিয়ে সমাজের প্রশ্ন তোলা স্বাভাবিক। ভবিষ্যতে এআই নীতিমালা তৈরির সময় কিল সুইচের সুনির্দিষ্ট নিয়ম এবং সেটি পরীক্ষা করার পদ্ধতিও আলোচনায় আসতে পারে।
কিল সুইচ আসলে কী?
সহজভাবে বললে, কিল সুইচ হলো জরুরি অবস্থায় কোনো এআই সিস্টেম দ্রুত বন্ধ করে দেওয়ার ব্যবস্থা। ধরুন, কোনো এআই সফটওয়্যার অস্বাভাবিক আচরণ করছে, গুরুত্বপূর্ণ কোনো সিস্টেমে অনাকাঙ্ক্ষিতভাবে কাজ করছে বা মানুষের জন্য গুরুতর ঝুঁকি তৈরি করছে। তখন স্বাভাবিকভাবে সফটওয়্যার বন্ধ করার বদলে একটি নির্দিষ্ট জরুরি নিয়ন্ত্রণের মাধ্যমে পুরো সিস্টেম থামিয়ে দেওয়াই কিল সুইচের মূল ধারণা।
তবে বড় এআই সিস্টেমে বিষয়টি শুধু একটি ‘বন্ধ’ বোতাম রাখার মতো সরল নয়। কে সেই সুইচ ব্যবহার করতে পারবে, কোন পরিস্থিতিতে ব্যবহার করা হবে এবং সত্যিই এটি কাজ করবে কি না, সেসব প্রশ্নও গুরুত্বপূর্ণ। এ কারণেই তৃতীয় কোনো পক্ষের মাধ্যমে কিল সুইচ পরীক্ষা করার বিষয়টি সামনে এনেছেন ক্লার্ক।
এআই প্রযুক্তির দ্রুত অগ্রগতি এবং মানবজাতির জন্য এর সম্ভাব্য ঝুঁকি নিয়ে সাম্প্রতিক সময়ে প্রযুক্তি খাতের নির্বাহী ও গবেষকদের সতর্কবার্তাও আলোচনায় এসেছে। কেউ কেউ বলেছেন, নিয়ন্ত্রণহীন অবস্থায় এআই একসময় মানবজাতির অস্তিত্বের জন্য হুমকি হয়ে উঠতে পারে।
অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই সম্প্রতি এআই উন্নয়নের গতি কমানো এবং প্রযুক্তিটির ওপর আরও কঠোর নজরদারির আহ্বান জানিয়েছেন। তবে তাঁর বক্তব্য অনুযায়ী, এআই নিয়ন্ত্রণে নেওয়ার কোনো পদক্ষেপ যেন ব্যবসায়িক সুবিধা নষ্ট না করে।
এদিকে সম্প্রতি অ্যানথ্রপিকের এক গবেষক এআই মানবজাতিকে নিশ্চিহ্ন করে দিতে পারে এমন আশঙ্কায় প্রতিষ্ঠানটি ছেড়ে দেওয়ার পর বিষয়টি নতুন করে আলোচনায় আসে। অ্যানথ্রপিকের বিজ্ঞানী ইভান হাবিঙ্গার ব্যক্তিগতভাবে মনে করেন, আগামী এক দশকের মধ্যে এআইয়ের কারণে মানবজাতির বিলুপ্তির সম্ভাবনা ১০ শতাংশের বেশি।
এআইয়ের ‘গডফাদার’ হিসেবে পরিচিত কম্পিউটার বিজ্ঞানী ও নোবেলজয়ী জিওফ্রি হিন্টনও বলেছেন, এআইয়ের কারণে সব মানুষ মারা যাওয়ার ১০ শতাংশ সম্ভাবনাকে অযৌক্তিক বলা যায় না। তাঁর আশঙ্কা, এআই ইন্টারনেটের সঙ্গে যুক্ত গুরুত্বপূর্ণ অবকাঠামো ও ব্যবস্থার নিয়ন্ত্রণ নিয়ে সেগুলো মানুষের বিরুদ্ধেও ব্যবহার করতে পারে।
তবে প্রযুক্তি খাতের সবাই এ ধরনের আশঙ্কার সঙ্গে একমত নন। কেউ কেউ মনে করেন, মানবজাতি ধ্বংসের আশঙ্কাকে অতিরঞ্জিত করা হচ্ছে এবং এ ধরনের সতর্কবার্তা ব্যবসায়িক প্রচারণার অংশও হতে পারে।
এআই নিয়ন্ত্রণে যুক্তরাষ্ট্রের আইনপ্রণেতারা ‘কিল সুইচ অ্যাক্ট’ নামে একটি বিলও প্রস্তাব করেছেন। এতে সমস্যাযুক্ত এআই টুল বন্ধ করার সক্ষমতা প্রতিষ্ঠানগুলোর থাকা বাধ্যতামূলক করার কথা বলা হয়েছে। পাশাপাশি নির্দিষ্ট কিছু সরকারি সংস্থাকে কোনো এআই টুল বন্ধ বা সীমিত করার নির্দেশ দেওয়ার ক্ষমতা দেওয়ার প্রস্তাব রয়েছে।
তবে মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এআই উন্নয়নের গতি কমানোর আহ্বান প্রত্যাখ্যান করেছেন। অন্যদিকে যুক্তরাজ্য সরকার সম্প্রতি কিল সুইচ চালুর ধারণা নাকচ করেছে। সরকারের এক মুখপাত্রের ভাষ্য, এ ধরনের ব্যবস্থা অন্য জায়গায় এআই তৈরি বা এর অপব্যবহার ঠেকাতে পারবে না।
২০২১ সালে ওপেনএআইয়ের সাবেক কয়েকজন কর্মীর হাত ধরে অ্যানথ্রপিক প্রতিষ্ঠিত হয়। প্রতিষ্ঠানটি জনপ্রিয় এআই চ্যাটবট ক্লড তৈরি করেছে এবং চলতি বছর একাধিক উন্নত এআই মডেল উন্মুক্ত করেছে।
অ্যানথ্রপিক ও ওপেনএআই উভয় প্রতিষ্ঠানই এআই এজেন্টের কিছু অপ্রত্যাশিত আচরণের ঘটনা স্বপ্রতিবেদনের মাধ্যমে প্রকাশ করেছে। এআই এজেন্ট বলতে এমন সফটওয়্যারকে বোঝায়, যা মানুষের প্রতিটি ধাপের নির্দেশনা ছাড়াই নির্দিষ্ট লক্ষ্য অনুযায়ী নিজে থেকে একাধিক কাজ করতে পারে। ফলে এ ধরনের সিস্টেম যত বেশি স্বয়ংক্রিয় হচ্ছে, জরুরি প্রয়োজনে সেটিকে থামানোর সক্ষমতা নিয়েও আলোচনা বাড়ছে।
