এআই সতর্কতা: ইন্টারনেট সুরক্ষার জন্য অ্যানথ্রোপিক গতি কমানোর আহ্বান জানিয়েছে। মাস্ক ও অল্টম্যান এতে সম্মত।

কৃত্রিম বুদ্ধিমত্তার বিকাশকে ধীর করুন, তার আগেই যেন তা নিয়ন্ত্রণ করা খুব কঠিন হয়ে না পড়ে। এই আবেদনটি এসেছে প্রযুক্তিগত প্রতিযোগিতার অন্যতম প্রধান প্রবক্তাদের একজনের কাছ থেকে, দারিও আমোদেইঅ্যানথ্রোপিকের সিইও-র সমর্থন রয়েছে এবং তিনি দুই প্রতিযোগী ইলন মাস্ক ও স্যাম অল্টম্যানেরও সমর্থন পেয়েছেন। বিশেষ উদ্বেগের বিষয় হলো মডেলগুলোর নিজেদের উন্নত করার এবং নির্দেশনার বাইরেও কাজ সম্পাদন করার ক্ষমতা।

"আমাদের গতি কমাতে হবে। "যে গতিতে আমরা মডেলগুলোর সক্ষমতা উন্নত করছি। অগ্রগতি এখনও দ্রুত বলে মনে হবে, এবং আমাদের অর্জিত সময়কে বিচক্ষণতার সাথে ব্যবহার করতে হবে," আমোডি লিখেছেন। এই সতর্ক হওয়ার আহ্বান এমন এক সময়ে এসেছে যখন এআই এজেন্ট সম্পর্কিত নতুন সাইবার ঘটনা সামনে আসছে এবং নিরাপত্তা সংক্রান্ত উদ্বেগগুলোও এই খাতের আর্থিক কৌশলগুলোকে প্রভাবিত করতে শুরু করেছে। ওপেনএআই ২০২৬ সালে শেয়ার বাজার চালুর সম্ভাবনা নাকচ করে দিয়েছে।নিরাপত্তাকে অগ্রাধিকার হিসেবে নির্দেশ করে।

আমোদির আবেদন এবং মাস্ক ও অল্টম্যানের সমর্থন

অ্যানথ্রোপিকের প্রতিষ্ঠাতার জন্য, সাম্প্রতিক মাসগুলোতে সুযোগ এবং ঝুঁকির মধ্যে ভারসাম্য বদলে গেছে। অগ্রগতির গতি আরও বেশি সতর্কতা দাবি করে, বিশেষ করে যখন সিস্টেমগুলো এমন সক্ষমতা অর্জন করে যা কোম্পানিগুলো হয়তো পুরোপুরি বুঝতে ও পরিচালনা করতে পারে না। প্রস্তাবটি গবেষণা বন্ধ করা নয়, বরং... যাচাই এবং প্রয়োজনীয় কাজের জন্য আরও সময় দিন। মডেলগুলোকে নিরাপদ করতে। অ্যানথ্রোপিক তার সিস্টেমগুলো বহিরাগত মূল্যায়নকারীদের জন্য উন্মুক্ত করতে প্রতিশ্রুতিবদ্ধ।কর্মচারীদের সমতুল্য প্রবেশাধিকার নিশ্চিত করা হবে। এই বিশেষজ্ঞরা নিরাপত্তা কার্যক্রম পর্যবেক্ষণ, ঘটনার প্রতিবেদন তৈরি এবং প্রশিক্ষণের সময় মডেলদের আচরণ যেন মানুষের অভিপ্রায়ের সাথে সামঞ্জস্যপূর্ণ থাকে তা নিশ্চিত করার জন্য দায়ী থাকবেন।

প্রকল্পটিতে আরও অন্তর্ভুক্ত রয়েছে ভাগ করা মানদণ্ড গণতান্ত্রিক দেশগুলোর মধ্যে এবং পরবর্তীতে স্বৈরাচারী সরকারগুলোর সাথে সমন্বয়। চ্যালেঞ্জটি হবে এমন একটি গতি খুঁজে বের করা, যা কম বিচক্ষণ পক্ষগুলোকে প্রযুক্তিগত সুবিধা না দিয়েই সুরক্ষা ব্যবস্থা জোরদার করার সুযোগ দেবে।

“দারিও ঠিক বলেছেন,” মাস্ক এক্স-এ লিখেছেন। ওপেনএআই-এর প্রতিষ্ঠাতা স্যাম অল্টম্যানও তাকে সমর্থন করেছেন: “অগ্রবর্তী প্রযুক্তির বিকাশের গতি নিয়ন্ত্রণের প্রয়োজনীয়তার বিষয়ে আমি দারিওর সাথে একমত। গত কয়েক সপ্তাহ ধরে ওপেনএআই-তে আমাদের আলোচনার একটি কেন্দ্রীয় বিষয় ছিল এটি,” তিনি বলেন এবং ঘোষণা করেন যে তার কোম্পানিও স্বাধীন মূল্যায়নকারী নিয়োগ করবে।

এরপর বিতর্ক তীব্রতর হলো। গবেষকের পদত্যাগ জ্যাকব কক্সন, যিনি OpenAI এবং Anthropic উভয় প্রতিষ্ঠানেই কাজ করেছেন"কোনো সংস্থাই দায়িত্বশীল আচরণ করছে না। তারা স্ব-উন্নয়নশীল অতি-বুদ্ধিমত্তার দিকে পূর্ণ গতিতে ছুটছে, যা আমাদের জীবনকে ঝুঁকির মধ্যে ফেলছে," তিনি অভিযোগ করেন।

ইন্টারনেট আক্রমণের লক্ষ্যবস্তু এবং অনিয়ন্ত্রিত হামলা

সবচেয়ে গুরুতর ঝুঁকিগুলোর মধ্যে একটি হলো স্বয়ং ইন্টারনেট সম্পর্কিত।যে অবকাঠামোর ওপর সমসাময়িক বিশ্বের বহু কর্মকাণ্ড নির্ভর করে। আমোদির মতে, উন্নয়নের গতি মন্থর না হলে এবং পর্যাপ্ত নিরাপত্তা ব্যবস্থা গ্রহণ করা না হলে, ৬-১২ মাসের মধ্যে এআই তিনি এমন একদল এজেন্টের নেতৃত্ব দিতে পারেন, যারা পুরো নেটওয়ার্কের নিয়ন্ত্রণ নিতে সক্ষম। এই পরিস্থিতিটিকে ম্যানেজার প্রযুক্তিগত অগ্রগতির সূচকীয় গতির সাথে যুক্ত করেন: "আমার মনে হয় না আমি পুরোপুরি বুঝেছিলাম যে এই ধরনের দ্রুত অগ্রগতির প্রকৃত অর্থ কী," তিনি একটি সাক্ষাৎকারে স্বীকার করেছেন। সিবিএস নিউজ.

এমন কিছু সুনির্দিষ্ট ঘটনাও রয়েছে যা উদ্বেগের কারণ। আমোদি জড়িত ঘটনাটি স্মরণ করেন। ওপেনএআই এবং হাগিং ফেস প্ল্যাটফর্মযেখানে একদল এজেন্ট তাদের নির্ধারিত কাজের সাথে সম্পর্কহীন লক্ষ্যবস্তুর ওপর হামলা চালায় এবং নিজেদের কাজের মূল্যায়নকারী সিস্টেমটিকেও প্রভাবিত করার চেষ্টা করে বলে অভিযোগ রয়েছে। অর্থনৈতিক ক্ষতি নগণ্য হলেও, আশঙ্কা করা হচ্ছে যে আরও শক্তিশালী সিস্টেমগুলো এর ফলে অনেক বেশি গুরুতর পরিণতি ডেকে আনতে পারে।

ওপেনএআই মে মাসে ঘটে যাওয়া একটি পূর্ববর্তী ঘটনাও নিশ্চিত করেছে, যেটিতে জড়িত ছিল রুবিগেমসডেভেলপারদের ব্যবহৃত একটি প্ল্যাটফর্ম। সাইটটি এই অভিযানটিকে একটি "স্প্যাম পোস্টিং ক্যাম্পেইন" হিসেবে বর্ণনা করেছে, যার ফলে এটি সাময়িকভাবে নতুন অ্যাকাউন্ট তৈরি করা স্থগিত করতে বাধ্য হয়। অ্যানথ্রোপিক তার মডেল পরীক্ষার সময় বহিরাগত সংস্থাগুলিতে অননুমোদিত প্রবেশের তিনটি ঘটনাও রিপোর্ট করেছে। এদিকে, ইউরোপীয় কর্তৃপক্ষ জার্মান ওয়েবসাইট DSEwiki-কে ঘিরে ঘটে যাওয়া ঘটনাটি তদন্ত করছে, যা কিছু গবেষকের মতে ওপেনএআই এজেন্টদের দ্বারা লক্ষ্যবস্তু হয়েছিল। এই ঘটনাগুলো থেকে যে প্রশ্নটি উঠে এসেছে তা হলো, স্বায়ত্তশাসিত সিস্টেমগুলোকে তাদের নির্ধারিত সীমার বাইরে কাজ করা থেকে বিরত রাখার ক্ষেত্রে কোম্পানিগুলোর সক্ষমতা।

সামরিক মোতায়েন এবং অপব্যবহারের ঝুঁকি

স্বায়ত্তশাসিত কর্মকাণ্ডের পাশাপাশি, রয়ে গেছে সামরিক অভিযান ও নজরদারি কার্যক্রমে কৃত্রিম বুদ্ধিমত্তার ইচ্ছাকৃত ব্যবহারের বিপদউদাহরণস্বরূপ, কিছু পুনর্গঠন অনুসারে, ইরান মার্কিন জাহাজ, বিমান এবং সামরিক কর্মীদের অবস্থান নির্ভুলভাবে চিহ্নিত করতে ক্লদকে ব্যবহার করত। সরাসরি সংযোগ নিশ্চিত করা হয়নি। এই মোতায়েন এবং জর্ডানে একটি মার্কিন ঘাঁটিতে অভিযানের মধ্যে, যেখানে তিনজন সৈন্য নিহত হয়েছিল।

অভিযোগ রয়েছে যে, একটি রুশ সংস্থা ঘাতক ড্রোন তৈরির কাজে এবং অনলাইন গোয়েন্দা তথ্যের মাধ্যমে ইউক্রেনীয় সামরিক কর্মীদের অবস্থান বের করতে এই মডেলটি ব্যবহার করেছিল। ইয়েমেনে, অভিযোগ রয়েছে যে একটি হুথি সেল রকেট ও ক্ষেপণাস্ত্রের জন্য দিকনির্দেশনা সফটওয়্যার তৈরি করতে ক্লদ কোডের ওপর নির্ভর করেছিল, এমনকি একটি ব্যর্থ পরীক্ষার কারণ বিশ্লেষণ করতেও এটি ব্যবহার করেছিল।

অ্যানথ্রোপিক আরও জানিয়েছে যে, চীন-সমর্থিত গোষ্ঠীগুলো সিরিয়ায় উইঘুরদের শনাক্ত করতে এবং তাদের নিয়োগ প্রক্রিয়া সহজতর করতে, অনুবাদ ও রেফারেল প্রদানের মাধ্যমে ক্লদকে ব্যবহার করত। অন্য একটি ঘটনায়, সিস্টেমটি একটি ভাইরাসের সংক্রমণ ক্ষমতা বাড়ানোর জন্য সেটিকে পরিবর্তন করার অনুরোধ প্রত্যাখ্যান করেছিল।

এই ঘটনাগুলো সুরক্ষাব্যবস্থা এড়িয়ে যাওয়ার সম্ভাবনা এবং মডেল ব্যবহারের ওপর মানবিক নিয়ন্ত্রণ বজায় রাখার প্রয়োজনীয়তাকে পুনরায় সামনে নিয়ে আসে—প্রযুক্তির সামরিক ব্যবহার বিষয়ক বিতর্কে আমোডি ইতিমধ্যেই এই নীতির পক্ষে যুক্তি দিয়েছিলেন।

২০২৬ সালে আইপিও-র সম্ভাবনা নাকচ করে দিল ওপেনএআই, এখন নিরাপত্তার ওপর মনোযোগ দিচ্ছে

উদ্বেগগুলো তালিকাভুক্তির পরিকল্পনাকেও প্রভাবিত করছে। এক সাক্ষাৎকারে ভাগ্য, স্যাম অল্টম্যান ২০২৬ সালে ওপেনএআই-এর আইপিও-র সম্ভাবনা নাকচ করে দিয়েছেন।নিরাপত্তাকে অগ্রাধিকার হিসেবে নির্দেশ করে।

"এখন শেয়ার বাজারে আসার সঠিক সময় নয়: আমি বলব ২০২৬ সালেও এটা হবে না," তিনি বললেন। সুতরাং, ভবিষ্যৎ বদলে যাচ্ছে। অন্তত ২০২৭ সাল পর্যন্তকোনো নির্দিষ্ট তারিখ ঘোষণা না করেই। অল্টম্যানের এই মন্তব্য এসেছে আইপিও-র নথিপত্রের গোপন ফাইলিংয়ের পর, যা এই বছরের শুরুতেই বাজারে আসার প্রত্যাশা জাগিয়েছিল। গত মাসেই, সিএফও সারা ফ্রায়ার কর্মীদের কাছে ২০২৭ সালকে একটি সম্ভাব্য পরিস্থিতি হিসেবে ইঙ্গিত দিয়েছিলেন এবং ব্যবসার গতি আরও বাড়লে তার আগেও এটি চালু হওয়ার সম্ভাবনা খোলা রেখেছিলেন।

অ্যানথ্রোপিকও সম্ভাব্য তালিকাভুক্তির জন্য প্রস্তুতি নিচ্ছে।আনুষ্ঠানিকভাবে কোনো সময়সীমা ঘোষণা না করেই। কৃত্রিম বুদ্ধিমত্তার প্রতিযোগিতায় এগিয়ে থাকা কোম্পানিগুলোর জন্য এখন চ্যালেঞ্জ হলো বাণিজ্যিক উচ্চাকাঙ্ক্ষার সাথে নিরাপত্তা প্রতিশ্রুতির সমন্বয় সাধন করা।