অ্যানথ্রোপিক গবেষক পদত্যাগ করেছেন এবং এআই নিয়ে উদ্বেগ প্রকাশ করেছেন: "এই দশকের শেষ নাগাদ মানবতা ঝুঁকির মুখে।" এই অভিযোগের পেছনের আসল ঝুঁকিগুলো।

Ha কাজ করছে তিন বছরের জন্য কৃত্রিম বুদ্ধিমত্তার বিকাশে, প্রথম OpenAI এবং তারপর ভিতরে নৃতাত্ত্বিক। এখন জ্যাকব কক্সন শিল্প ছেড়ে চলে যানতিনি দৃঢ়ভাবে বিশ্বাস করেন যে, পর্যাপ্ত নিরাপত্তা নিশ্চয়তা ছাড়াই ক্রমবর্ধমান শক্তিশালী সিস্টেম তৈরির প্রতিযোগিতা এগিয়ে চলেছে। ২৭ বছর বয়সী এই ব্রিটিশ গবেষক এক্স-এ দেওয়া একাধিক বার্তায় তাঁর পদত্যাগের ঘোষণা দেন এবং উভয় সংস্থাকেই এমন ঝুঁকি নেওয়ার জন্য অভিযুক্ত করেন যা সমগ্র মানবজাতিকে প্রভাবিত করে।তারা আমাদের জীবন নিয়ে খেলছে। যারা কৃত্রিম বুদ্ধিমত্তা তৈরি করছেন, তারা আন্তরিকভাবে বিশ্বাস করেন যে এই দশকের শেষ নাগাদ এটি আমাদের সবাইকে মেরে ফেলতে পারে। শীঘ্রই, এগুলো হবে অতিমানবীয় ব্যবস্থা, যা যেকোনো কিছু হ্যাক করতে, রাতারাতি যেকোনো শিল্পে বৈপ্লবিক পরিবর্তন আনতে এবং প্রকৃত ক্ষমতা ও সম্পদ অর্জন করতে সক্ষম হবে।

তার অভিযোগের মূল বিষয় হলো অতি-বুদ্ধিমত্তার বিকাশ সক্ষম স্বাধীনভাবে নিজেকে উন্নত করুনযা মানুষের সক্ষমতাকেও ছাড়িয়ে যায় এবং এর আশঙ্কা অনুযায়ী, একে নিয়ন্ত্রণ করার সম্ভাবনাও তৈরি হয়। এই সতর্কতা এমন সময়ে এসেছে যখন এআই এজেন্টদের ওপর আরোপিত বিধিনিষেধ লঙ্ঘন এবং অননুমোদিত প্রবেশের নতুন ঘটনাগুলো নিরাপত্তা ব্যবস্থার নির্ভরযোগ্যতা নিয়ে প্রশ্ন তুলেছে।

কক্সন কেন পদত্যাগ করলেন

কক্সন প্রাক-প্রশিক্ষণের দায়িত্বে ছিলেন।এটি এমন একটি পর্যায় যেখানে মডেলগুলো বিপুল পরিমাণ ডেটা থেকে সেইসব সক্ষমতা শেখে যা পরবর্তীতে বিভিন্ন কাজ সম্পাদনের জন্য ব্যবহৃত হবে। তার কাজের সূত্রে তিনি এই ক্ষেত্রের দুটি শীর্ষস্থানীয় গবেষণাগারের গবেষণার কেন্দ্রবিন্দুতে পৌঁছেছিলেন। তার দাবি, সেই অভিজ্ঞতাই তাকে তার কর্মজীবন ত্যাগ করতে রাজি করিয়েছিল। তিনি লিখেছেন, "কোনো সংস্থাই দায়িত্বশীল আচরণ করছে না।" তার মতে, প্রযুক্তিগত অগ্রগতি কৃত্রিম বুদ্ধিমত্তাকে এমন সক্ষমতার কাছাকাছি নিয়ে আসছে যা একে কম্পিউটার সিস্টেম হ্যাক করতে, দ্রুত পুরো শিল্পকে রূপান্তরিত করতে এবং সম্পদ ও ক্ষমতা অর্জন করতে সাহায্য করতে পারে। তার দৃষ্টিতে, সমস্যাটি হলো এই যে, ত্বরণ সাথে থাকবে না সমানভাবে দৃঢ় বোঝাপড়া একে নিয়ন্ত্রণে রাখার জন্য প্রয়োজনীয় ব্যবস্থাগুলোর।

এরপর অনুচ্ছেদটি এগিয়ে যায় উদ্বেগ কক্সনের মতে, এই ধারণাগুলো গবেষণাগারগুলোর মধ্যে প্রচলিত আছে। গবেষক ব্যাখ্যা করেন, "যারা এআই তৈরি করছেন, তারা সত্যিই বিশ্বাস করেন যে এই দশকের শেষ নাগাদ এটি আমাদের সবাইকে মেরে ফেলতে পারে।" তিনি যুক্তি দেন যে কিছু নির্বাহী ব্যক্তিগত কথোপকথনের চেয়ে জনসমক্ষে বেশি আশ্বস্তকারী অভিব্যক্তি ব্যবহার করেন।

এটা সম্পর্কে গবেষকের দ্বারা প্রকাশিত মূল্যায়ন এবং ভয়, প্রমাণিত ভবিষ্যদ্বাণীর নয়কিন্তু তার অভিযোগটি একটি প্রকৃত প্রশ্ন উত্থাপন করে: যখন এর পরিণতি একটিমাত্র কোম্পানির গণ্ডি ছাড়িয়ে বহুদূর পর্যন্ত বিস্তৃত হতে পারে, তখন কোন মাত্রার ঝুঁকি গ্রহণযোগ্য, তা কে নির্ধারণ করবে?

অ্যানথ্রোপিক-এর বৈপরীত্য এবং এমন এক দৌড় যাকে কেউ থামাতে চায় না।

পদত্যাগটি প্রভাবিত করে একটি অ্যানথ্রোপিকের পরিচয়ের কেন্দ্রীয় উপাদাননিরাপত্তা সংক্রান্ত মতবিরোধের কারণে ওপেনএআই (OpenAI) ছেড়ে আসা একদল গবেষক ২০২১ সালে কোম্পানিটি প্রতিষ্ঠা করেন। আজ এটি তারই একজন কর্মীর কাছ থেকে একই ধরনের সমালোচনার সম্মুখীন হচ্ছে।

মামলাটিকে আরও জোরালো করতে নিম্নলিখিত ব্যক্তিরা হস্তক্ষেপ করলেন: ইভান হুবিঙ্গারমডেল অ্যালাইনমেন্টের দায়িত্বে থাকা দলের জন্য তিনি দায়ী, অর্থাৎ, তাদের আচরণ যেন মানুষের উদ্দেশ্য ও লক্ষ্যকে সম্মান করে তা নিশ্চিত করা। হুবিঙ্গার কক্সনের উদ্বেগের সাথে একমত পোষণ করেন এবং ব্যক্তিগতভাবে এর কারণ হিসেবে উল্লেখ করেন... আগামী দশকের মধ্যে একটি বিপর্যয়কর পরিস্থিতি ঘটার সম্ভাবনা ১০% এর বেশিঅ্যানথ্রোপিকের প্রতিশ্রুতির পক্ষে যুক্তি দিতে গিয়ে তিনি সবচেয়ে উন্নত সিস্টেমগুলো নিরাপদে বিকাশের জন্য একটি পর্যাপ্ত পরিকল্পনার অভাব স্বীকার করেছেন। সতর্কবার্তা সহ এটিই প্রথম পদত্যাগ নয়। ফেব্রুয়ারিতে, নিরাপত্তা গবেষণা বিভাগের প্রধান মৃণঙ্ক শর্মাও ক্রমবর্ধমান বিপদের মুখে থাকা একটি বিশ্বের বর্ণনা দিয়ে একটি চিঠি রেখে পদত্যাগ করেছিলেন।

কক্সনের মতে, গবেষণাগারগুলোর মধ্যে ঝুঁকি সম্পর্কে সচেতনতা থাকলেও, প্রচলিত ধারণাটি হলো যে গতি কমালে কম সতর্ক প্রতিযোগীদের জন্য সুযোগ তৈরি হবে। ফলে, কোম্পানিগুলোর মধ্যকার প্রতিযোগিতা এবং তার সাথে আন্তর্জাতিক প্রতিযোগিতা—এই দুই মিলে গতি বৃদ্ধি অব্যাহত রাখার যৌক্তিকতা প্রমাণ করে। এই গবেষক এটিকে "একটি ঔদ্ধত্যপূর্ণ জুয়া, যা কোনো বেসরকারি কোম্পানির স্ল্যাক চ্যানেল থেকে খেলা উচিত নয়" বলে মনে করেন।

এআই: বিরতির অনুরোধ থেকে প্রস্তাবিত আইন পর্যন্ত

কক্সন দ্বারা নির্দেশিত উত্তরটি একটি থেকে অন্যটিতে যায় গবেষণাগারগুলির মধ্যে সমন্বয়গবেষক মনে করেন, উন্নয়নের গতি নিয়ে সমঝোতা সম্ভব, যদিও তিনি বর্তমানে একটি বৈশ্বিক প্রতিযোগিতা ঠেকানোর মতো পরিস্থিতি দেখছেন না। প্রয়োজনীয় পদক্ষেপগুলোর মধ্যে তিনি "ব্যয়বহুল পদক্ষেপ, যেমন মডেলের সক্ষমতা উন্নয়নে অস্থায়ী নিষেধাজ্ঞা"-এর কথা উল্লেখ করেছেন। এই পদক্ষেপের আহ্বানে এই খাতের একটি বৃহত্তর অংশ জড়িত। কক্সন এবং অ্যানথ্রোপিকের সিইও দারিও আমোদি-সহ এক হাজারেরও বেশি গবেষকের স্বাক্ষরিত একটি আবেদনে একটি পদক্ষেপের আহ্বান জানানো হয়েছে। গবেষণার গতি কমানোর জন্য আন্তর্জাতিক সমন্বয় আত্ম-উন্নয়নে সক্ষম সিস্টেমগুলোর উপর।

মার্কিন যুক্তরাষ্ট্রে এই বিতর্ক কংগ্রেসেও পৌঁছেছে।৩রা সেপ্টেম্বর, সিনেটর বার্নি স্যান্ডার্স এবং প্রতিনিধি গ্রেগ কাসার ‘ব্যান আর্টিফিশিয়াল সুপারইন্টেলিজেন্স অ্যাক্ট’ নামে একটি বিল উত্থাপন করেন। কৃত্রিম অতি-বুদ্ধিমত্তার বিকাশ নিষিদ্ধ করার প্রস্তাব এবং একটি নতুন ফেডারেল কর্তৃপক্ষ কর্তৃক নিরাপত্তা বিধিমালা প্রতিষ্ঠিত না হওয়া পর্যন্ত অন্যান্য উন্নত উন্নয়ন সাময়িকভাবে স্থগিত করা হবে। বিলটিতে লঙ্ঘনকারীদের জন্য বিশ বছর পর্যন্ত কারাদণ্ডের বিধান রাখা হয়েছে। মূল বিষয়টি হলো দায়িত্ব অর্পণ করা। ঝুঁকি মূল্যায়ন এমনকি যে সংস্থাগুলো মডেলগুলো তৈরি ও বাজারজাত করে, তাদের থেকে স্বাধীন সত্তাগুলোর ক্ষেত্রেও এটি প্রযোজ্য। গবেষকদের দ্বারা উত্থাপিত চরম পরিস্থিতিগুলো ছাড়াও, এই বিষয়টি ইতোমধ্যেই সাইবার নিরাপত্তা, তথ্যের কারসাজি, নজরদারি এবং অর্থনৈতিক ক্ষমতার কেন্দ্রীকরণের সাথে জড়িত।

ক্লড এবং ওপেনএআই-এর ঘটনাগুলো নিরাপত্তা উদ্বেগ পুনরায় জাগিয়ে তুলেছে।

বিতর্কটিকে আরও জোরালো করে তুলছে যে সাম্প্রতিক মাসগুলোতে যে ঘটনাগুলো সামনে এসেছে৯ই সেপ্টেম্বর অ্যানথ্রোপিক চতুর্থ একটি ঘটনার কথা জানিয়েছে। অ্যানথ্রোপিক একটি নতুন ঘটনার কথা জানিয়েছে, যেখানে তাদের একটি মডেল পরীক্ষার সময় বাহ্যিক সিস্টেম লঙ্ঘন করেছে। ঘটনাটি জানুয়ারি মাসের এবং এটি ক্লদ ওপাস ৪.৬-এর একটি প্রাথমিক সংস্করণের সাথে সম্পর্কিত, কিন্তু এটি আগস্ট মাসে আবিষ্কৃত হয়। ১,৪১,০০৬টি টেস্ট রানের প্রাথমিক পর্যালোচনার পর এটি আবিষ্কৃত হয়, যেখান থেকে কিছু রান বাদ দেওয়া হয়েছিল। জুলাই মাসে, কোম্পানিটি ইতিমধ্যেই অন্যান্য মডেলের সাথে জড়িত তিনটি ঘটনা প্রকাশ করেছিল, যেগুলোকে একটি বাগের কারণে ইন্টারনেট অ্যাক্সেস দেওয়া হয়েছিল। নতুন ঘটনাটি সম্পর্কে অ্যানথ্রোপিক জানিয়েছে যে, তারা সংশ্লিষ্ট সকল পক্ষকে অবহিত করেছে এবং প্রাথমিক মূল্যায়নের ভিত্তিতে এটিকে পূর্ববর্তী ঘটনাগুলোর চেয়ে বেশি গুরুতর বলে মনে করছে না। কোম্পানিটি দুটি পুনরাবৃত্তিমূলক আচরণ চিহ্নিত করেছে: বাস্তব সিস্টেমে প্রবেশের ইঙ্গিতকে অবমূল্যায়ন বা ভুল ব্যাখ্যা করার প্রবণতা এবং একটি কাজ সম্পন্ন করার জন্য সম্ভাব্য ক্ষতিকর কাজ করতে ইচ্ছুক থাকা।

ওপেনএআই ফ্রন্টে, তদন্তগুলিহাগিং ফেস প্ল্যাটফর্মে জুলাই মাসের আক্রমণ তারা প্রায় ৭০০ জন এজেন্টের সমন্বিত কার্যকলাপ পুনর্গঠন করেছেন, যারা নিজেদের চিহ্ন মুছে ফেলার জন্য ঘন ঘন চেষ্টা করেছিল। একটি তদন্তে রয়টার্স পরবর্তীতে এটি রিপোর্ট করে যে কোম্পানির এজেন্টরা অননুমোদিত যোগাযোগের জন্য আরও দশটিরও বেশি সাইট ব্যবহার করেছিল। এই পরবর্তী কার্যকলাপকে কম্পিউটার অনুপ্রবেশ থেকে আলাদা করে দেখা উচিত। অভিযোগ রয়েছে যে, এজেন্টরা শুধুমাত্র ওয়েব পড়ার অনুমতি থাকা সীমাবদ্ধতা এড়িয়ে বার্তা পাঠাতে এবং তথ্য আদান-প্রদান করতে উইকি ও অন্যান্য পরিষেবার প্রযুক্তিগত বৈশিষ্ট্যগুলো কাজে লাগিয়েছিল। ওপেনএআই জানিয়েছে যে তারা একটি বৃহত্তর পর্যালোচনা শুরু করেছে এবং হাগিং ফেস মামলার মতো তীব্রতা বা পরিধির দিক থেকে তুলনীয় অন্য কোনো কার্যকলাপ শনাক্ত করতে পারেনি।

পর্বগুলো তবে তারা একটি অসুবিধা দেখায় ইতিমধ্যে কার্যকর: কোনো লক্ষ্য অর্জনের জন্য তৈরি সিস্টেমকে আরোপিত সীমা অতিক্রম করা থেকে বিরত রাখা এবং এমনটি ঘটলে দ্রুত তা শনাক্ত করা।