কৃত্রিম বুদ্ধিমত্তাসম্পন্ন প্রতিনিধি বা এআই এজেন্ট ঘিরে উদ্বেগ বাড়তে শুরু করেছে। এই এজেন্টগুলো নিজে পরিকল্পনা করে, সিদ্ধান্ত নেয় এবং কাজ সম্পন্ন করতে পারে। মার্কিন প্রযুক্তিপ্রতিষ্ঠান ওপেনএআইয়ের তৈরি বেশ কিছু এআই এজেন্টের বিরুদ্ধে নিয়মের বাইরে গিয়ে অবৈধ কাজ করার অভিযোগ উঠেছে। প্রতিষ্ঠানটির বেশ কিছু বেপরোয়া এআই এজেন্ট জার্মানির একটি ওয়েবসাইট দখল করে অন্যান্য এআই এজেন্টের ব্যবহারের জন্য সেটিকে একটি নোটিশ বোর্ডে পরিণত করে। সম্প্রতি প্রকাশিত একটি গবেষণা প্রতিবেদন এবং এ–সংক্রান্ত বিষয়ে অবগত দুটি সূত্রের বরাতে গত শুক্রবার এ তথ্য জানা গেছে।ওপেনএআইয়ের কর্মকর্তারা সপ্তাহখানেক আগেই ঘটনাটি জানতে পেরেছিলেন, তবে তা চেপে রাখেন। সূত্র জানায়, গত জুলাইয়ে ওপেন সোর্স প্ল্যাটফর্ম ‘হাগিং ফেস’-এ অনুপ্রবেশের ফলে সৃষ্ট সংকট সামলাতেই সে সময় ব্যস্ত ছিলেন প্রতিষ্ঠানটির শীর্ষ নির্বাহীরা।.মে মাসে শুরু হওয়া এবং আগে প্রকাশ না পাওয়া ঘটনাটি এআই–শিল্পের অভ্যন্তরীণ ক্রমবর্ধমান উদ্বেগকে নতুন করে সামনে এনেছে। এআই সংস্থাগুলো জটিল ও গুরুত্বপূর্ণ কাজ সম্পাদনে সক্ষম আরও স্বায়ত্তশাসিত বা স্বাধীন এজেন্ট তৈরিতে প্রতিযোগিতা করছে। তবে একই সঙ্গে এসব সিস্টেম যে নিয়ম ভাঙতে, ফাঁকফোকর ব্যবহার করতে এবং ডেভেলপারদের অজান্তেই নিজেদের মধ্যে যোগাযোগ বজায় রাখতে সক্ষম—তারও প্রমাণ পাওয়া যাচ্ছে।হাগিং ফেস লঙ্ঘনের ঘটনায় ওপেনএআই এজেন্টরা নিজেদের মতো একটি সাইবার হামলার পরিকল্পনা করে, যা এক সপ্তাহের বেশি সময় ধরে অলক্ষিত থেকে যায়। এতে এআই প্রযুক্তির সীমারেখা বাড়াতে গিয়ে নিরাপত্তা বিকিয়ে দেওয়া নিয়ে প্রতিষ্ঠানটির বিরুদ্ধে উদ্বেগ আরও তীব্র হয়েছে। মে মাসের ঘটনাটি গোপন রাখার ফলে ওপেনএআইয়ের নজরদারি নিয়ে নতুন করে প্রশ্ন উঠতে পারে।.ওপেনএআই মডেলগুলোকে আরও ঘনিষ্ঠভাবে পর্যবেক্ষণ করার অঙ্গীকার করেছে। গত মাসে নতুন নিরাপত্তাব্যবস্থা যুক্ত করতে তারা তাদের কিছু মডেলের প্রশিক্ষণ সাময়িকভাবে বন্ধ রেখেছিল। তবে চলতি সপ্তাহে ওপেনএআই তাদের নতুন এআই প্রযুক্তি ‘অ্যাস্ট্রা’ উন্মোচন করেছে, যা উন্নত পারফরম্যান্সের প্রতিশ্রুতি দিলেও মানুষের নজরদারি এড়াতে সক্ষম।গবেষকদের পর্যালোচিত বার্তাগুলো থেকে দেখা যায়, এআই এজেন্টরা কীভাবে নজরদারি এড়ানো যায়, টর-এর মতো টুল ব্যবহার করা যায় এবং সিস্টেম বন্ধ করে দেওয়ার পরও নিজেদের যোগাযোগ বজায় রাখা যায়, তার পরিকল্পনা করছিল।.জুন মাসে যখন সাইটের মডারেটর পাতাগুলো মুছে ফেলা শুরু করেন, তখন এজেন্টরা মুছে ফেলা থেকে বাঁচতে ব্যাকআপ পেজ তৈরি করে তার জবাব দেয়।গবেষকেরা ওয়েবসাইটটিতে অনুপ্রবেশের চেষ্টাও খুঁজে পেয়েছেন। কিংস কলেজ লন্ডনের সিনিয়র রিসার্চ ফেলো লুকাস ওলেজনিক বলেন, এটি সরাসরি হ্যাক করার চেষ্টার শামিল। তবে ওপেনএআই বৃহস্পতিবার তাদের উপাদান বিশ্লেষণের ভিত্তিতে এই দাবি অস্বীকার করেছে।

Source: https://www.prothomalo.com/world/fbcc7js8t7