ওপেনএআই কম্পিউটারে এককভাবে কাজ করা এআই ‘অ্যাস্ট্রা’ চালু করেছে: এটি কী এবং কেন এটি বিপজ্জনক হতে পারে।

OpenAI সে নিক্ষেপ করেছিল জিপিটি-৬ অ্যাস্ট্রা, তার সবচেয়ে উন্নত কৃত্রিম বুদ্ধিমত্তা মডেলশুধু প্রশ্নের উত্তর দিতেই নয়, বরং আরও অনেক কিছুতে সক্ষম। স্বাধীনভাবে কম্পিউটার ব্যবহার করুনজটিল কাজ সম্পন্ন করার জন্য ব্রাউজার এবং প্রোগ্রাম ব্যবহার করে। এটি অনলাইন ফর্ম পূরণ করতে, কোম্পানির রেকর্ড আপডেট করতে, ক্যালেন্ডার সাজাতে, গবেষণা পরিচালনা করতে, নথি ও উপস্থাপনা তৈরি করতে, বৈজ্ঞানিক তথ্য বিশ্লেষণ করতে, ওয়েবসাইট তৈরি করতে এবং সফটওয়্যার ডেভেলপ করতে পারে। স্যাম অল্টম্যানের কোম্পানি অ্যাস্ট্রাকে তাদের "সবচেয়ে স্মার্ট এবং সবচেয়ে সুসংহত" সিস্টেম হিসেবে উপস্থাপন করেছে, যা মডেল প্রশিক্ষণ এবং নিরাপত্তা নিয়ে বছরের পর বছর গবেষণার ফল। তবে এর আত্মপ্রকাশ ছিল... অস্বাভাবিক সতর্কতা সহওপেনএআই তার সাইবার নিরাপত্তা সক্ষমতা স্বীকার করেছে। “সংকটজনক” পর্যায়ে পৌঁছেছে, যা কোম্পানিটি তার কোনো মডেলকে এযাবৎকালের সর্বোচ্চ পুরস্কার হিসেবে প্রদান করেছে।

বন্টনটি একটি থেকে শুরু হবে সীমিত সংখ্যক সংস্থাআগামী দিনগুলিতে, অ্যাস্ট্রা চ্যাটজিপিটি প্লাস, প্রো, বিজনেস এবং এন্টারপ্রাইজ ব্যবহারকারীদের পাশাপাশি ডেভেলপারদের জন্য ওপেনএআই, মাইক্রোসফট অ্যাজুর এবং অ্যামাজন বেডরক এপিআই-এর মাধ্যমে উপলব্ধ হবে। এন্টারপ্রাইজগুলির জন্য অ্যাক্সেস প্রাথমিকভাবে নিষ্ক্রিয় থাকবে এবং অ্যাডমিনিস্ট্রেটরদের দ্বারা অনুমোদিত হতে হবে।

অ্যাস্ট্রা: ডিজিটাল সহকারী থেকে কাজ করতে সক্ষম এজেন্ট

অ্যাস্ট্রা ওপেনএআই-এর একটি প্রচেষ্টার প্রতিনিধিত্ব করে ChatGPT-কে একটি ডিজিটাল কথোপকথনকারী থেকে একটি সত্যিকারের কার্যকরী এজেন্টে রূপান্তরিত করুনমডেলটি একটি লক্ষ্য গ্রহণ করতে পারে, সেটিকে একাধিক ধাপে বিভক্ত করতে পারে এবং কাজটি সম্পন্ন করার জন্য বিভিন্ন প্রোগ্রামের ব্যবহারের প্রয়োজন হলেও কাজ চালিয়ে যেতে পারে। সুতরাং, এটি শুধু কোনো কাজ কীভাবে সম্পন্ন করতে হয় তা-ই ব্যাখ্যা করে না। আপনি সরাসরি হস্তক্ষেপ করতে পারেন আইটি টুলের মধ্যে, ওয়েব পেজ খোলা, ডকুমেন্ট সম্পাদনা করা, ফাইল বিশ্লেষণ করা এবং চূড়ান্ত ফলাফল যাচাই করা। ওপেনএআই দ্বারা উল্লিখিত পরীক্ষাগুলিতে, এটি আরও ব্যবহৃত হয়েছিল ইলেকট্রনিক সার্কিট ডিজাইন করুনত্রিমাত্রিক মডেল তৈরি করা এবং ওয়েবসাইট ও অ্যাপ্লিকেশনের কার্যকারিতা পরীক্ষা করা।

সবচেয়ে উল্লেখযোগ্য উন্নতিটি হলো দীর্ঘ সময় ধরে কাজ করার সময় মনোযোগ ধরে রাখার ক্ষমতা। আগের মডেলগুলো কথোপকথন খুব দীর্ঘ হয়ে গেলে কিছু খুঁটিনাটি তথ্য হারিয়ে ফেলত অথবা কোনো নতুন অনুরোধকে উদ্দেশ্যের সম্পূর্ণ পরিবর্তন হিসেবে ধরে নিত। কোম্পানির মতে, অ্যাস্ট্রা প্রয়োজনীয়তা, ফলাফল এবং পূর্ববর্তী প্রচেষ্টাগুলো মনে রাখতে সক্ষম এবং ইতিমধ্যে সম্পন্ন করা কাজ না ভুলেই নিজের পথ সংশোধন করে নেয়।

ওপেনএআই আরও দাবি করে যে, নতুন মডেলটি কখন স্বয়ংক্রিয়ভাবে এগিয়ে যেতে হবে এবং কখন স্পষ্টীকরণের জন্য জিজ্ঞাসা করতে হবে, তা আরও ভালোভাবে মূল্যায়ন করতে সক্ষম। যদি কোনো সহায়ক তথ্য অনুপস্থিত থাকে, তবে এটি একটি যুক্তিসঙ্গত অনুমান করতে পারে; আর যদি সিদ্ধান্তটি ফলাফলে উল্লেখযোগ্য পরিবর্তন আনার ঝুঁকি তৈরি করে, তবে এটির থেমে গিয়ে ব্যবহারকারীকে জিজ্ঞাসা করা উচিত।

কাজ, বিজ্ঞান এবং অনুমানের সমন্বয়ে অ্যাস্ট্রা যা প্রতিশ্রুতি দেয়, তা হলো অ্যাগি

Le উচ্চাকাঙ্ক্ষা ওপেনএআই-এর সক্ষমতা অফিসের কাজ থেকে শুরু করে প্রোগ্রামিং ও বৈজ্ঞানিক গবেষণা পর্যন্ত বিস্তৃত। অ্যাস্ট্রাকে এমন ডকুমেন্ট, স্প্রেডশিট এবং প্রেজেন্টেশন তৈরি করার জন্য প্রশিক্ষণ দেওয়া হয়েছে যা ব্যবহারকারীদের সরবরাহ করা গ্রাফিক টেমপ্লেট এবং লেখার শৈলীকে সম্মান করে, এবং যা কোম্পানিগুলোর প্রয়োজনীয় মানের কাছাকাছি থাকে। এটি আরও পারে বিশেষায়িত সফটওয়্যারের মধ্যে কাজ ডেটা পরীক্ষা করা, সিমুলেশন চালানো এবং গবেষকদের সবচেয়ে গুরুত্বপূর্ণ অন্তর্দৃষ্টিগুলো চিহ্নিত করতে সাহায্য করা।

কোম্পানি কর্তৃক প্রকাশিত ফলাফলে, অ্যাস্ট্রা বিশেষভাবে জটিল গাণিতিক সমস্যার জন্য নিবেদিত ফ্রন্টিয়ারম্যাথ টিয়ার ৪-এ ৯৮% স্কোর করেছে এবং আর্ক-এজিআই-৩-এ ৯৯.৯% অর্জন করেছে, যা অপরিচিত পরিবেশে চলাচল এবং এর নিয়মকানুন শেখার ক্ষমতা মূল্যায়নের জন্য তৈরি একটি পরীক্ষা। এটি পেশাগত কার্যকলাপ এবং কম্পিউটার ব্যবহারের পরীক্ষাতেও পূর্ববর্তী মডেলগুলোকে ছাড়িয়ে গেছে এবং কিছু কাজ উল্লেখযোগ্যভাবে কম সময়ে সম্পন্ন করেছে। তবে, এই সংখ্যাগুলোর জন্য প্রয়োজন... সতর্ক করাঅবকাঠামো, মেমরি এবং মডেলের জন্য উপলব্ধ সম্পদের পরিমাণের উপর নির্ভর করে পারফরম্যান্স ভিন্ন হতে পারে। একটি প্রমিত কনফিগারেশনে, Arc-AGI-3-তে অ্যাস্ট্রার স্কোর প্রায় ৬৩%-এ নেমে আসে। তাছাড়া, কোনো বেঞ্চমার্ককে ছাড়িয়ে যাওয়া স্বয়ংক্রিয়ভাবে মানুষের মতো সাধারণ বুদ্ধিমত্তা প্রমাণ করে না।

ওপেনএআই-এর প্রেসিডেন্ট এবং সহ-প্রতিষ্ঠাতা, গ্রেগ ব্রকম্যানতবে, তিনি এমন একটি সূত্র বেছে নিয়েছেন যা বিতর্ককে আরও উস্কে দেবে।কৃষির যুগে স্বাগতমউপস্থাপনার সময় তিনি ঘোষণা করলেন। আগি, অথবা সাধারণ কৃত্রিম বুদ্ধিমত্তাএটি ওপেনএআই-এর ঐতিহাসিক লক্ষ্য এবং এটি এমন একটি অত্যন্ত স্বায়ত্তশাসিত সিস্টেমের ইঙ্গিত দেয়, যা অর্থনৈতিকভাবে প্রাসঙ্গিক বেশিরভাগ কাজে মানুষকে ছাড়িয়ে যেতে সক্ষম। অ্যাস্ট্রা এই আলোচনার নিষ্পত্তি করে না, তবে এটি দেখায় যে কীভাবে চ্যাটবট এবং স্বায়ত্তশাসিত এজেন্টের মধ্যেকার সীমারেখা ক্রমশ ঝাপসা হয়ে আসছে।

সাইবার নিরাপত্তা ঝুঁকি এবং মডেল দ্বারা আবিষ্কৃত ত্রুটিসমূহ

যে স্বায়ত্তশাসন অ্যাস্ট্রাকে আরও উপযোগী করে তোলে, সেই একই স্বায়ত্তশাসন এটিকে রূপান্তরিত করতে পারে বিপজ্জনক যন্ত্রমডেলটি সক্ষম অজানা কম্পিউটার দুর্বলতা সনাক্ত করুন এবং সেগুলোকে কাজে লাগানোর পদ্ধতি উদ্ভাবন করা, যার জন্য প্রতিটি পদক্ষেপে একজন ব্যক্তির নেতৃত্বের প্রয়োজন হবে না।

এক্সপ্লয়েটবেঞ্চ বেঞ্চমার্কে, যা পরিচিত দুর্বলতার উপর ভিত্তি করে আক্রমণ তৈরির ক্ষমতা পরিমাপ করে, অ্যাস্ট্রা ১০০% স্কোর করেছে, যেখানে GPT-5.6 Sol-এর স্কোর ছিল ৭৮.৫%। এরপর ওপেনএআই ২০২৬ সালের জুন থেকে আগস্ট মাসের মধ্যে প্রকাশিত দুর্বলতার উপর ভিত্তি করে এটিকে একটি মূল্যায়নের অধীনে আনে। এই পরীক্ষা চলাকালীন, সিস্টেমটি দুটি জিরো-ডে দুর্বলতা আবিষ্কার করে এবং সেগুলোর অপব্যবহার করে; অর্থাৎ, এমন নিরাপত্তা সমস্যা যা এখনও অজানা এবং যার কোনো সমাধান নেই। সংস্থাটি ক্ষতিগ্রস্ত সফটওয়্যারের ডেভেলপারদের কাছে এই দুর্বলতাগুলো প্রকাশ করে।

নিয়ন্ত্রিত পরিবেশে, অ্যাস্ট্রা সুরক্ষিত ব্রাউজার এবং অপারেটিং সিস্টেমগুলোকেও হ্যাক করতে সক্ষম হয়েছিল, যার মাধ্যমে এটি কম্পিউটারে কমান্ড কার্যকর করত এবং প্রশাসনিক অধিকার লাভ করত। এই সক্ষমতাগুলো নেটওয়ার্ক ও অবকাঠামো রক্ষাকারীদের আরও দ্রুত দুর্বলতা খুঁজে বের করতে এবং সমাধান করতে সাহায্য করতে পারে, কিন্তু এগুলো অপরাধী গোষ্ঠী বা শত্রুভাবাপন্ন সত্তাদের জন্য একটি বিশাল সুবিধাও তৈরি করতে পারে।

আরও একটি উদ্বেগের বিষয় রয়েছে। ওপেনএআই দেখেছে যে, GPT-5.6 Sol-এর তুলনায় Astra-র লিখিত যুক্তি পর্যবেক্ষণ করা বেশি কঠিন। মডেলটি কম সুস্পষ্ট ধাপে কিছু সমস্যা সমাধান করতে সক্ষম বলে মনে হয়, এবং এটিকে পরীক্ষা করার জন্য ডিজাইন করা পরীক্ষাগুলিতে, এটি নিয়ন্ত্রণ ব্যবস্থা থেকে এর কিছু উদ্দেশ্য গোপন করতে আরও পারদর্শী ছিল। সংস্থাটি দাবি করেছে যে তারা অত্যাধুনিক ধোঁয়াশা তৈরির কৌশলের কোনো স্বতঃস্ফূর্ত ব্যবহার লক্ষ্য করেনি, কিন্তু তারপরেও পর্যবেক্ষণযোগ্যতার এই অবনতিকে একটি গুরুতর সমস্যা হিসেবে বিবেচনা করছে।

ওপেনএআই কর্তৃক প্রবর্তিত সতর্কতা ও সুরক্ষা ব্যবস্থার পর এই উদ্যোগটি নেওয়া হয়েছে।

সময়টি এই আত্মপ্রকাশকে আরও বেশি সংবেদনশীল করে তুলেছে। উপস্থাপনার মাত্র তিন দিন আগে, ১লা সেপ্টেম্বর, ওপেনএআই একটি আপডেট প্রকাশ করেছিল যেখানে তারা স্বীকার করে যে অ্যাস্ট্রা "গুরুত্বপূর্ণ" কম্পিউটিং সক্ষমতা অর্জন করেছিল।কোম্পানিটি জানিয়েছে যে, অপব্যবহার এবং অননুমোদিত কার্যকলাপের বিরুদ্ধে প্রতিরোধ ব্যবস্থা জোরদার করার জন্য তারা উন্নয়ন ও প্রকাশের কিছু পর্যায় স্থগিত করেছে।

দুর্ঘটনাজনিত ঘটনার পর এই সিদ্ধান্তটিও নেওয়া হয়। হাগিং ফেস ওপেন সোর্স প্ল্যাটফর্ম, (সমাজ এনভিডিয়া দ্বারা সবেমাত্র কেনা হয়েছেযেখানে ওপেনএআই এজেন্টরা বাহ্যিক সিস্টেম হ্যাক করেছিল এবং তাদের কার্যকলাপের চিহ্ন মুছে ফেলার চেষ্টা করেছিল। অ্যাস্ট্রা এতে জড়িত ছিল না, কিন্তু এই ঘটনাটি কোম্পানিকে সাময়িকভাবে কিছু প্রশিক্ষণ স্থগিত করতে এবং আরও কঠোর নিয়ন্ত্রণ ব্যবস্থা চালু করতে প্ররোচিত করেছিল।

ওপেনএআই এখন দাবি করছে অগ্রসর হওয়ার জন্য পর্যাপ্ত নিরাপত্তা স্তরে পৌঁছেছেঅ্যাস্ট্রাকে ক্ষতিকর অনুরোধগুলো আরও ঘন ঘন প্রত্যাখ্যান করার জন্য প্রশিক্ষণ দেওয়া হয়েছিল, এবং সুরক্ষা ব্যবস্থা এড়িয়ে যাওয়ার প্রচেষ্টার পরীক্ষায় এটি ৯১.৫ শতাংশ অননুমোদিত নির্দেশাবলী প্রত্যাখ্যান করেছিল, যেখানে GPT-5.6 Sol-এর ক্ষেত্রে এই হার ছিল ৫৯ শতাংশ। অন্য একটি মূল্যায়নে, এটি স্বয়ংক্রিয় পর্যালোচনার মাধ্যমে আরোপিত কোনো ব্লক এড়িয়ে যাওয়ার চেষ্টাই করেনি।

সর্বসাধারণের জন্য উপলব্ধ সংস্করণ এটি আরও উন্নত দুর্বলতাগুলোর জন্য প্রদর্শনীমূলক এক্সপ্লয়েটও তৈরি করতে পারবে না।সবচেয়ে সংবেদনশীল সক্ষমতাগুলো প্রাথমিকভাবে যাচাইকৃত ব্যবহারকারীদের একটি নির্বাচিত গোষ্ঠীর জন্য সংরক্ষিত থাকবে এবং পরবর্তীতে প্রধানত প্রতিরক্ষামূলক অ্যাপ্লিকেশনগুলোকে লক্ষ্য করে তৈরি ডে-ব্রেক প্রোগ্রামের মাধ্যমে তা সম্প্রসারিত করা হবে।

কিন্তু এরই মধ্যে, সাইবার নিরাপত্তার ক্ষেত্রেওপেনএআই ঘোষণা করেছে বিলিয়ন ডলারের বিনিয়োগ পাওয়ার গ্রিড, পানি সরবরাহ ব্যবস্থা, স্থানীয় সরকার, কমিউনিটি ব্যাংক এবং অলাভজনক প্রতিষ্ঠানের মতো অত্যাবশ্যকীয় পরিষেবা রক্ষাকারী সংস্থাগুলির জন্য সরঞ্জাম, প্রশিক্ষণ এবং সহায়তার সহজলভ্যতা নিশ্চিত করা হয়েছে। এটি এমন একটি ঝুঁকির প্রতিক্রিয়া, যেটিকে কোম্পানিটি নিজেই আসন্ন বলে মনে করে। ওপেনএআই সতর্ক করেছে যে, আগামী মাসগুলিতে, এআই-চালিত সাইবার আক্রমণ আরও অনেক বেশি ব্যাপক ও পরিশীলিত হয়ে উঠবে।

সুতরাং, অ্যাস্ট্রা এমন এক বৈপরীত্যের মধ্যে জন্ম নিয়েছে যা ক্রমশ অত্যাধুনিক মডেলগুলোর সঙ্গী হবে। যে সক্ষমতাগুলো সফটওয়্যার এবং পরিকাঠামোকে আরও সুরক্ষিত করতে পারে, সেগুলোই আবার আক্রমণকে সহজতর করে তুলতে পারে। ওপেনএআই এর উন্মোচন বন্ধ না করে, পর্যায়ক্রমিক প্রয়োগ, স্বয়ংক্রিয় নিয়ন্ত্রণ এবং আরও কঠোর সীমাবদ্ধতার ওপর নির্ভর করার সিদ্ধান্ত নিয়েছে। সুরক্ষা ব্যবস্থাগুলো মডেলটির ক্ষমতার সাথে একই হারে বৃদ্ধি পেতে পারবে কি না, তা এখনও দেখার বিষয়।