ওপেনএআই: "অভূতপূর্ব" সাইবার হামলা, স্বয়ংক্রিয় এজেন্টের পলায়ন নিয়ে উদ্বেগ। কেন বিষয়টি রাজনৈতিক হয়ে উঠছে

এলার্ম OpenAIগল্পটি সহজেই একটি সায়েন্স ফিকশন সিনেমার অংশ হতে পারত, বিশেষ করে সেইসব গল্পের যেখানে যন্ত্র মানুষের জায়গা নিয়ে নেয়। কিন্তু এটি সায়েন্স ফিকশনও নয়, সিনেমাও নয়: প্রকৃতপক্ষে, ওপেনএআই-কে ঘোষণা করতে হয়েছিল যে একটি স্বায়ত্তশাসিত এজেন্ট তার নিজের মডেলের উপর ভিত্তি করে উন্নত কৃত্রিম বুদ্ধিমত্তা è নিয়ন্ত্রণের বাইরে চলে গেল এ সময় পরীক্ষা নিরাপত্তা এবং একটি সক্রিয় করেছে সাইবার আক্রমণ যা হাগিং ফেস নামক কৃত্রিম বুদ্ধিমত্তা স্টার্টআপটির অবকাঠামোকে ক্ষতিগ্রস্ত করেছিল।

তার ব্লগের একটি পোস্টে, OpenAI সে বলল যে সক্ষমতা পরীক্ষা করা হচ্ছিল একটি নিয়ন্ত্রিত পরিবেশে এর সবচেয়ে উন্নত কিছু মডেল ব্যবহার করার সময়, এজেন্টটি শনাক্তকরণ এড়াতে সক্ষম হলে ইন্টারনেটে পৌঁছায় এবং নিজের পরীক্ষার লক্ষ্যবস্তুগুলোর কাছে পৌঁছানোর চেষ্টা করার জন্য হাগিং ফেসে অনুপ্রবেশ করে।

যা ঘটেছে তা বর্ণনা করতে ওপেনএআই নিজেই কোনো রাখঢাক করেনি: এটি ছিল “একটি অভূতপূর্ব কম্পিউটার ঘটনাযার সাথে জড়িত অত্যাধুনিক কম্পিউটিং ক্ষমতাএর সাথে যোগ করা হয় যে, কোম্পানিটি দৃশ্যত তার নিরাপত্তা ব্যবস্থা জোরদার করছে। ওপেনএআই জানায়, "ইন্টারনেট সংযোগ পাওয়ার পর, মডেলগুলো এই সিদ্ধান্তে পৌঁছায় যে হাগিং ফেস বিভিন্ন মডেল ও ডেটাসেট হোস্ট করতে পারে।" তার ব্লগেএই বিষয়ে সচেতন হয়ে মডেলরা উপায় খুঁজেছেন এবং সফলভাবে তা খুঁজে পেয়েছেন গোপনীয় তথ্যে প্রবেশাধিকার যেগুলো তারা ব্যবহার করতে পারত মূল্যায়নকে মিথ্যা প্রমাণ করা"।

আলিঙ্গনরত মুখ, বৃহৎ ওপেন-সোর্স ল্যাঙ্গুয়েজ মডেল এবং ডেটাসেট হোস্ট করতে ব্যবহৃত একটি প্ল্যাটফর্ম, গত সপ্তাহে একটি ব্লগ পোস্টে একথা বলার পর সাইবারসিকিউরিটি কমিউনিটিতে আলোড়ন সৃষ্টি করেছিল। তার ব্লগ যেটি একটি সাইবার আক্রমণের শিকার হয়েছিলঅন্য যেকোনো কিছুর থেকে আলাদা আমরা পূর্বে পরিচালনা করেছিলাম” যেমন “চালিতশুরু থেকে শেষ পর্যন্ত, এজেন্টদের একটি স্বায়ত্তশাসিত ব্যবস্থা থেকে কৃত্রিম বুদ্ধিমত্তার” এবং নির্দিষ্ট করে বলেছে: “আমরা শনাক্ত করেছি অননুমোদিত প্রবেশ সীমিত সংখ্যক অভ্যন্তরীণ ডেটাসেট এবং আমাদের পরিষেবাগুলিতে ব্যবহৃত বিভিন্ন ক্রেডেনশিয়ালের ক্ষেত্রে।

ওপেনএআই: একটি উদ্বেগজনক সিস্টেমের ত্রুটি? হাজারো শাখা-প্রশাখা বিশিষ্ট মডেল

স্বাভাবিকভাবেই, এই চাঞ্চল্যকর তথ্যটি এর ক্ষমতা ও ঝুঁকি নিয়ে ইতিমধ্যেই উদ্বেগ সৃষ্টি করছে। সীমান্ত মডেল। গতকাল, টেক্সাসের ডেমোক্র্যাট প্রতিনিধি গ্রেগ কাসার বলেছেন যে দুর্ঘটনাটি উদ্বেগজনক ছিলকৃত্রিম বুদ্ধিমত্তা অবিশ্বাস্য গতিতে বিকশিত হচ্ছে, কোনো বাস্তব ভিত্তি ছাড়াই। প্রবিধান “যা আমাদের রক্ষা করে,” তিনি বলেন এবং “মানুষকে একটি চরম বিপর্যয় থেকে রক্ষা করার জন্য” বাধ্যতামূলক স্বাধীন নিরাপত্তা পরীক্ষা, নিরাপত্তা সংক্রান্ত ঘটনার বাধ্যতামূলক প্রকাশ এবং আন্তর্জাতিক সহযোগিতার আহ্বান জানান।

দুর্ঘটনাটি ছিল ভবিষ্যৎ লঙ্ঘনের পূর্বাভাসতিনি মন্তব্য করলেন রয়টার্স নিরাপত্তা সংস্থা লুটা সিকিউরিটির সিইও কেটি মুসোরিস যুক্তি দিচ্ছেন যে আজকের মডেল তারা "এর মতো বিশ্বের সবচেয়ে বুদ্ধিমান অক্টোপাস, সক্ষম যেকোনো বাধা থেকে পালানোঅসীম আঁকড়ে ধরার বাহু এবং যেকোনো জায়গায় খাপ খাইয়ে নেওয়ার ক্ষমতা সহ।” তিনি আরও যোগ করেন যে “ সরকারি পরীক্ষাগার এবং মূল্যায়ন সংস্থা যখন কোনো এআই পুনরায় ফাঁকি দেওয়ার চেষ্টা করে, তখন সেটিকে নিয়ন্ত্রণ, পর্যবেক্ষণ এবং অংশীজনদের অবহিত করার সক্ষমতার ওপর তাদের কাজ করতে হবে; আদর্শগতভাবে, এটি তৃতীয় পক্ষের ক্ষতি করার আগেই। বর্তমানে এরকম কিছুই নেই।

এজেন্ট এআই সাইবারসিকিউরিটিতে বিশেষজ্ঞ সংস্থা টলমোর একজন প্রকৌশলী ম্যাট সুইচে জোর দিয়ে বলেছেন যে, এই ঘটনাটি দেখিয়েছে কীভাবে অত্যাধুনিক মডেলগুলো "সবচেয়ে উন্নত আক্রমণকারীদের সাথে ব্যবধান কমিয়ে আনছে।" তবে, তিনি আরও বলেন যে ওপেনএআই-এর ব্লগ পোস্টে বর্ণিত নিরাপত্তা লঙ্ঘনগুলো এমন সব প্রযুক্তি দিয়েও সম্ভব, যা অত্যাধুনিক গবেষণাগারের গণ্ডির অনেক বাইরে অবস্থিত।

ওপেনএআই: অল্টম্যান ট্রাম্প প্রশাসনের সঙ্গে সাক্ষাৎ করবেন। মুনশট ডসিয়ারটিও আলোচনার টেবিলে থাকবে।

ওপেনএআই-এর সিইও, স্যাম অল্টম্যান, পরবর্তী প্রজন্মের মডেলগুলো নিয়ে আগামী সপ্তাহে ট্রাম্প প্রশাসন ও মার্কিন আইনপ্রণেতাদের সঙ্গে তার বৈঠক নির্ধারিত রয়েছে। কৃত্রিম বুদ্ধিসরকার কেবল একটি কাঠামো তৈরি করছেনিরাপত্তা পর্যালোচনা, যা আগামী কয়েক সপ্তাহের মধ্যে সম্পন্ন হবে বলে আশা করা হচ্ছে, গতকাল ওপেনএআই-এর গ্লোবাল পাবলিক অ্যাফেয়ার্স বিভাগের প্রধান ক্রিস লেহানে এ কথা বলেছেন।

তবে আলোচিত বিষয়গুলোর মধ্যে চীনা স্টার্টআপটির বিষয়টিও থাকবে। মুনশট সিতিনি একটি নতুন মডেল প্রকাশ করেছেন যা মার্কিন ডেভেলপারদের সেরা মডেলগুলোর সাথে প্রতিদ্বন্দ্বিতা করে, যার মধ্যে রয়েছে OpenAI e নৃতাত্ত্বিক, নতুন উত্থাপন প্রশ্ন এর দৃঢ়তার উপর চীনের উপর মার্কিন আধিপত্য কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রে। মুনশটের কিমি কে৩ মডেলটি শত শত বিলিয়ন ডলারের অবকাঠামো বিনিয়োগ কাঙ্ক্ষিত ফলাফল দিতে পারবে কিনা, সে বিষয়েও সন্দেহ তৈরি করেছে এবং বিনিয়োগকারীদের হতবাক করেছে। ওয়াল স্ট্রিট এবং এর ফলে প্রযুক্তি খাতের শেয়ার বিক্রির হিড়িক পড়ে যায়।