ডেস্ক, রাজনীতি ডটকম
প্রযুক্তি প্রতিষ্ঠান হাগিং ফেসে চলতি মাসে আলোড়ন তোলা হ্যাকিং ঘটনার তদন্ত করতে গিয়ে নিজেদের আরও কয়েকটি স্বয়ংক্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) এজেন্টের নিয়ন্ত্রণ হারানোর ঘটনা শনাক্ত করেছে ওপেনএআই। বিষয়টি সম্পর্কে অবগত দুই ব্যক্তি গত শুক্রবার এ তথ্য জানিয়েছেন।
শনিবার (১ আগস্ট) বার্তা সংস্থা রয়টার্সের খবরে বলা হয়, পরীক্ষার জন্য নির্ধারিত নিয়ন্ত্রিত পরিবেশ (কনটেইনমেন্ট) থেকে ওপেনএআইয়ের একটি এআই এজেন্ট কীভাবে বেরিয়ে গিয়েছিল, তা তদন্ত করতে প্রতিষ্ঠানটি যে অনুসন্ধান শুরু করেছিল, সেই তদন্তেই নতুন এসব ঘটনার সন্ধান পাওয়া গেছে।
ওপেনএআই এখন এসব ঘটনাও তদন্ত করছে। তবে একটি সূত্র জানিয়েছে, ঘটনাগুলো ছিল সীমিত পরিসরের এবং কোনো এআই এজেন্ট ওপেনএআইয়ের নিজস্ব নেটওয়ার্কের বাইরে চলে গেছে বলে মনে করা হচ্ছে না।
ওপেনএআইয়ের এক মুখপাত্র মঙ্গলবার দেওয়া কোম্পানির এক বিবৃতির দিকে ইঙ্গিত করেছেন। ওই বিবৃতিতে বলা হয়েছিল, হাগিং ফেসে অনুপ্রবেশের ঘটনার পাশাপাশি তাদের মডেলগুলোর ‘বিস্তৃত কার্যক্রম’ও পর্যালোচনা করা হচ্ছে।
ওপেনএআইয়ের এআই এজেন্টগুলোর এমন নিয়ন্ত্রণহীন আচরণের তথ্য, যদিও সীমিত পরিসরের, এআই নিয়ন্ত্রণে নতুন বিধিনিষেধ আরোপের দাবিকে আরও জোরালো করতে পারে। বিশেষ করে হোয়াইট হাউসসহ বিভিন্ন মহলে এ নিয়ে উদ্বেগ বাড়তে পারে।
বিষয়টি সম্পর্কে অবগত ওই দুই ব্যক্তি ও আরেকটি সূত্রের তথ্য অনুযায়ী, ওপেনএআই তদন্তের পরিধি বাড়ানোর কিছুদিন পরই প্রতিষ্ঠানটির প্রধান প্রতিদ্বন্দ্বী অ্যানথ্রপিক জানায়, তাদের এআই মডেলও এপ্রিল থেকে শুরু হওয়া একাধিক অনুপ্রবেশের ঘটনায় ব্যবহৃত হয়েছিল। এর ফলে আরও তিনটি প্রতিষ্ঠানের নিরাপত্তা ভঙ্গ হয়েছিল।
ওপেনএআইয়ের অতীতে নিয়ন্ত্রণ ভেঙে বেরিয়ে যাওয়ার আরও কিছু ঘটনা সম্প্রতি শনাক্ত হওয়ার বিষয়টি এর আগে প্রকাশ্যে আসেনি।
বাড়ছে উদ্বেগ
এআই নিরাপত্তা বিশেষজ্ঞদের মতে, নতুন এসব তথ্য থেকে বোঝা যাচ্ছে, অত্যাধুনিক এআই গবেষণাগারগুলো বিপজ্জনক স্বয়ংক্রিয় হ্যাকিং সক্ষম এআই এজেন্ট তৈরির ক্ষেত্রে যতটা এগিয়েছে, সেগুলো নিয়ন্ত্রণে রাখার সক্ষমতা ততটা বাড়াতে পারেনি।
ক্যামব্রিজ বিশ্ববিদ্যালয়ের সেন্টার ফর দ্য স্টাডি অব এক্সিস্টেনশিয়াল রিস্কের গণিতবিদ মরিস চিওদো বলেন, “আমরা এমন একটি শিল্প খাত দেখছি, যেখানে যারা এসব প্রযুক্তি নকশা করছে, তৈরি করছে এবং বাজারে আনছে, তারা নিজেরাই দায়িত্বশীলভাবে এগুলো উন্নয়ন ও নিরাপদ রাখার ক্ষেত্রে তাল মেলাতে পারছে না।”
ওপেনএআইয়ের তদন্তকারীরা ঠিক কতটি ঘটনা শনাক্ত করেছেন কিংবা সেগুলো কখন ও কী পরিস্থিতিতে ঘটেছিল, সে সম্পর্কে রয়টার্স নিশ্চিত হতে পারেনি। তবে তিনটি সূত্র জানিয়েছে, প্রকৃত ঘটনা বোঝার জন্য ওপেনএআই ও বাইরের বিশেষজ্ঞরা চলতি বছরের শুরুর দিকের লগ ডেটা পর্যালোচনা করছেন।
চলতি বছরের জুলাইয়ের শুরুতে হাগিং ফেসে ঘটে যাওয়া অনুপ্রবেশের ঘটনার পরই ওপেনএআই এই তদন্ত শুরু করে। ওই ঘটনায় একটি অভ্যন্তরীণ পরীক্ষায় প্রতারণার ব্যর্থ চেষ্টার সময় ওপেনএআইয়ের একটি এআই এজেন্ট কয়েক দিন ধরে অন্য একটি প্রতিষ্ঠানের নেটওয়ার্কে নিয়ন্ত্রণহীনভাবে কাজ করেছিল।
ওই হ্যাকিংয়ের সময় আরও চারটি প্রতিষ্ঠানের চারটি অ্যাকাউন্ট ক্ষতিগ্রস্ত হয়েছিল বলে জানিয়েছিল ওপেনএআই। ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোর একটি ছিল নিউইয়র্কভিত্তিক প্রযুক্তি প্রতিষ্ঠান মোডাল (Modal)। প্রতিষ্ঠানটির কর্মকর্তারাও বিষয়টি নিশ্চিত করেছেন।
গণিতবিদ চিওদো বলেন, ওপেনএআই কিংবা অ্যানথ্রপিক— কোনো প্রতিষ্ঠানই এআই এজেন্টগুলো নিয়ন্ত্রণ হারানোর সময় সেগুলো পর্যবেক্ষণ করছিল না— এমন ইঙ্গিত তার উদ্বেগ আরও বাড়িয়েছে।
এর আগে রয়টার্স জানিয়েছিল, হাগিং ফেস হ্যাকিং নিয়ন্ত্রণে আনার পর এফবিআইয়ের সঙ্গে যোগাযোগ করে এবং পরে ঘটনাটি প্রকাশ্যে জানানোর পরই ওপেনএআই বুঝতে পারে যে তাদের এআই এজেন্ট হাগিং ফেসে অনুপ্রবেশ করেছিল।
তবে ওপেনএআই বলেছে, রয়টার্সের ওই প্রতিবেদনে কিছু ভুল তথ্য ছিল। কোন তথ্যগুলো ভুল ছিল, সে বিষয়ে প্রশ্ন করা হলেও প্রতিষ্ঠানটি কোনো জবাব দেয়নি।
বৃহস্পতিবার নিজেদের এআই এজেন্ট কীভাবে অনলাইনে বিভিন্ন প্রতিষ্ঠানে হ্যাকিং চালিয়েছিল, সে বিষয়ে প্রকাশিত এক বিবৃতিতে অ্যানথ্রপিক জানায়, মূল্যায়ন-সংক্রান্ত লগ রিয়েল-টাইমে পর্যবেক্ষণ করা হলে সমস্যাটি আরও আগে শনাক্ত করা যেত।
চিওদোর মতে, এটি যথাযথ তদারকির ঘাটতিরই ইঙ্গিত দেয়। তার ভাষায়, “মনে হচ্ছে তারা এগুলোর দিকে তাকিয়েই ছিল না।” তবে অ্যানথ্রপিক জানিয়েছে, তাদের রিয়েল-টাইম পর্যবেক্ষণ ব্যবস্থা ছিল। কিন্তু এআই প্রতিষ্ঠানটি ও তাদের এক অংশীদারের মধ্যে ভুল বোঝাবুঝির কারণে নির্দিষ্ট এই ধরনের ঝুঁকির ক্ষেত্রে সেটি ব্যবহার করা হয়নি।
সরকারি নজরদারির দাবি জোরালো
নিয়ন্ত্রণ হারানো এআই এজেন্টগুলোর ঘটনা দ্রুত সামনে আসায় যুক্তরাষ্ট্র ও ইউরোপের আইনপ্রণেতা এবং সরকারি কর্মকর্তাদের মধ্যে এসব মডেল তৈরি করা গবেষণাগারগুলোর ওপর নতুন সরকারি নজরদারি আরোপের দাবি আরও জোরালো হয়েছে।
যুক্তরাষ্ট্রের প্রেসিডেন্ট ডোনাল্ড ট্রাম্প বৃহস্পতিবার সাংবাদিকদের বলেন, “আমরা নিয়ন্ত্রণমূলক ব্যবস্থা নিয়ে কাজ করছি।” শুক্রবার ইউরোপীয় কমিশনও জানিয়েছে, হ্যাকিংয়ের ঘটনাগুলো নিয়ে তারা ওপেনএআই ও অ্যানথ্রপিকের সঙ্গে আলোচনা করেছে।
মার্কিন সিনেটের গোয়েন্দা কমিটিতে শীর্ষ ডেমোক্র্যাট সদস্য মার্ক ওয়ার্নার শুক্রবার বলেন, অ্যানথ্রপিকের ঘটনা তার কাছে প্রমাণ করে যে উন্নত এআই মডেলগুলোর ক্ষেত্রে বাধ্যতামূলক সক্ষমতা পরীক্ষা (ম্যান্ডেটরি ক্যাপাবিলিটিজ টেস্টিং) আইনগতভাবে নিশ্চিত করার উদ্যোগ সঠিক।
প্রযুক্তি প্রতিষ্ঠান হাগিং ফেসে চলতি মাসে আলোড়ন তোলা হ্যাকিং ঘটনার তদন্ত করতে গিয়ে নিজেদের আরও কয়েকটি স্বয়ংক্রিয় কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) এজেন্টের নিয়ন্ত্রণ হারানোর ঘটনা শনাক্ত করেছে ওপেনএআই। বিষয়টি সম্পর্কে অবগত দুই ব্যক্তি গত শুক্রবার এ তথ্য জানিয়েছেন।
শনিবার (১ আগস্ট) বার্তা সংস্থা রয়টার্সের খবরে বলা হয়, পরীক্ষার জন্য নির্ধারিত নিয়ন্ত্রিত পরিবেশ (কনটেইনমেন্ট) থেকে ওপেনএআইয়ের একটি এআই এজেন্ট কীভাবে বেরিয়ে গিয়েছিল, তা তদন্ত করতে প্রতিষ্ঠানটি যে অনুসন্ধান শুরু করেছিল, সেই তদন্তেই নতুন এসব ঘটনার সন্ধান পাওয়া গেছে।
ওপেনএআই এখন এসব ঘটনাও তদন্ত করছে। তবে একটি সূত্র জানিয়েছে, ঘটনাগুলো ছিল সীমিত পরিসরের এবং কোনো এআই এজেন্ট ওপেনএআইয়ের নিজস্ব নেটওয়ার্কের বাইরে চলে গেছে বলে মনে করা হচ্ছে না।
ওপেনএআইয়ের এক মুখপাত্র মঙ্গলবার দেওয়া কোম্পানির এক বিবৃতির দিকে ইঙ্গিত করেছেন। ওই বিবৃতিতে বলা হয়েছিল, হাগিং ফেসে অনুপ্রবেশের ঘটনার পাশাপাশি তাদের মডেলগুলোর ‘বিস্তৃত কার্যক্রম’ও পর্যালোচনা করা হচ্ছে।
ওপেনএআইয়ের এআই এজেন্টগুলোর এমন নিয়ন্ত্রণহীন আচরণের তথ্য, যদিও সীমিত পরিসরের, এআই নিয়ন্ত্রণে নতুন বিধিনিষেধ আরোপের দাবিকে আরও জোরালো করতে পারে। বিশেষ করে হোয়াইট হাউসসহ বিভিন্ন মহলে এ নিয়ে উদ্বেগ বাড়তে পারে।
বিষয়টি সম্পর্কে অবগত ওই দুই ব্যক্তি ও আরেকটি সূত্রের তথ্য অনুযায়ী, ওপেনএআই তদন্তের পরিধি বাড়ানোর কিছুদিন পরই প্রতিষ্ঠানটির প্রধান প্রতিদ্বন্দ্বী অ্যানথ্রপিক জানায়, তাদের এআই মডেলও এপ্রিল থেকে শুরু হওয়া একাধিক অনুপ্রবেশের ঘটনায় ব্যবহৃত হয়েছিল। এর ফলে আরও তিনটি প্রতিষ্ঠানের নিরাপত্তা ভঙ্গ হয়েছিল।
ওপেনএআইয়ের অতীতে নিয়ন্ত্রণ ভেঙে বেরিয়ে যাওয়ার আরও কিছু ঘটনা সম্প্রতি শনাক্ত হওয়ার বিষয়টি এর আগে প্রকাশ্যে আসেনি।
বাড়ছে উদ্বেগ
এআই নিরাপত্তা বিশেষজ্ঞদের মতে, নতুন এসব তথ্য থেকে বোঝা যাচ্ছে, অত্যাধুনিক এআই গবেষণাগারগুলো বিপজ্জনক স্বয়ংক্রিয় হ্যাকিং সক্ষম এআই এজেন্ট তৈরির ক্ষেত্রে যতটা এগিয়েছে, সেগুলো নিয়ন্ত্রণে রাখার সক্ষমতা ততটা বাড়াতে পারেনি।
ক্যামব্রিজ বিশ্ববিদ্যালয়ের সেন্টার ফর দ্য স্টাডি অব এক্সিস্টেনশিয়াল রিস্কের গণিতবিদ মরিস চিওদো বলেন, “আমরা এমন একটি শিল্প খাত দেখছি, যেখানে যারা এসব প্রযুক্তি নকশা করছে, তৈরি করছে এবং বাজারে আনছে, তারা নিজেরাই দায়িত্বশীলভাবে এগুলো উন্নয়ন ও নিরাপদ রাখার ক্ষেত্রে তাল মেলাতে পারছে না।”
ওপেনএআইয়ের তদন্তকারীরা ঠিক কতটি ঘটনা শনাক্ত করেছেন কিংবা সেগুলো কখন ও কী পরিস্থিতিতে ঘটেছিল, সে সম্পর্কে রয়টার্স নিশ্চিত হতে পারেনি। তবে তিনটি সূত্র জানিয়েছে, প্রকৃত ঘটনা বোঝার জন্য ওপেনএআই ও বাইরের বিশেষজ্ঞরা চলতি বছরের শুরুর দিকের লগ ডেটা পর্যালোচনা করছেন।
চলতি বছরের জুলাইয়ের শুরুতে হাগিং ফেসে ঘটে যাওয়া অনুপ্রবেশের ঘটনার পরই ওপেনএআই এই তদন্ত শুরু করে। ওই ঘটনায় একটি অভ্যন্তরীণ পরীক্ষায় প্রতারণার ব্যর্থ চেষ্টার সময় ওপেনএআইয়ের একটি এআই এজেন্ট কয়েক দিন ধরে অন্য একটি প্রতিষ্ঠানের নেটওয়ার্কে নিয়ন্ত্রণহীনভাবে কাজ করেছিল।
ওই হ্যাকিংয়ের সময় আরও চারটি প্রতিষ্ঠানের চারটি অ্যাকাউন্ট ক্ষতিগ্রস্ত হয়েছিল বলে জানিয়েছিল ওপেনএআই। ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোর একটি ছিল নিউইয়র্কভিত্তিক প্রযুক্তি প্রতিষ্ঠান মোডাল (Modal)। প্রতিষ্ঠানটির কর্মকর্তারাও বিষয়টি নিশ্চিত করেছেন।
গণিতবিদ চিওদো বলেন, ওপেনএআই কিংবা অ্যানথ্রপিক— কোনো প্রতিষ্ঠানই এআই এজেন্টগুলো নিয়ন্ত্রণ হারানোর সময় সেগুলো পর্যবেক্ষণ করছিল না— এমন ইঙ্গিত তার উদ্বেগ আরও বাড়িয়েছে।
এর আগে রয়টার্স জানিয়েছিল, হাগিং ফেস হ্যাকিং নিয়ন্ত্রণে আনার পর এফবিআইয়ের সঙ্গে যোগাযোগ করে এবং পরে ঘটনাটি প্রকাশ্যে জানানোর পরই ওপেনএআই বুঝতে পারে যে তাদের এআই এজেন্ট হাগিং ফেসে অনুপ্রবেশ করেছিল।
তবে ওপেনএআই বলেছে, রয়টার্সের ওই প্রতিবেদনে কিছু ভুল তথ্য ছিল। কোন তথ্যগুলো ভুল ছিল, সে বিষয়ে প্রশ্ন করা হলেও প্রতিষ্ঠানটি কোনো জবাব দেয়নি।
বৃহস্পতিবার নিজেদের এআই এজেন্ট কীভাবে অনলাইনে বিভিন্ন প্রতিষ্ঠানে হ্যাকিং চালিয়েছিল, সে বিষয়ে প্রকাশিত এক বিবৃতিতে অ্যানথ্রপিক জানায়, মূল্যায়ন-সংক্রান্ত লগ রিয়েল-টাইমে পর্যবেক্ষণ করা হলে সমস্যাটি আরও আগে শনাক্ত করা যেত।
চিওদোর মতে, এটি যথাযথ তদারকির ঘাটতিরই ইঙ্গিত দেয়। তার ভাষায়, “মনে হচ্ছে তারা এগুলোর দিকে তাকিয়েই ছিল না।” তবে অ্যানথ্রপিক জানিয়েছে, তাদের রিয়েল-টাইম পর্যবেক্ষণ ব্যবস্থা ছিল। কিন্তু এআই প্রতিষ্ঠানটি ও তাদের এক অংশীদারের মধ্যে ভুল বোঝাবুঝির কারণে নির্দিষ্ট এই ধরনের ঝুঁকির ক্ষেত্রে সেটি ব্যবহার করা হয়নি।
সরকারি নজরদারির দাবি জোরালো
নিয়ন্ত্রণ হারানো এআই এজেন্টগুলোর ঘটনা দ্রুত সামনে আসায় যুক্তরাষ্ট্র ও ইউরোপের আইনপ্রণেতা এবং সরকারি কর্মকর্তাদের মধ্যে এসব মডেল তৈরি করা গবেষণাগারগুলোর ওপর নতুন সরকারি নজরদারি আরোপের দাবি আরও জোরালো হয়েছে।
যুক্তরাষ্ট্রের প্রেসিডেন্ট ডোনাল্ড ট্রাম্প বৃহস্পতিবার সাংবাদিকদের বলেন, “আমরা নিয়ন্ত্রণমূলক ব্যবস্থা নিয়ে কাজ করছি।” শুক্রবার ইউরোপীয় কমিশনও জানিয়েছে, হ্যাকিংয়ের ঘটনাগুলো নিয়ে তারা ওপেনএআই ও অ্যানথ্রপিকের সঙ্গে আলোচনা করেছে।
মার্কিন সিনেটের গোয়েন্দা কমিটিতে শীর্ষ ডেমোক্র্যাট সদস্য মার্ক ওয়ার্নার শুক্রবার বলেন, অ্যানথ্রপিকের ঘটনা তার কাছে প্রমাণ করে যে উন্নত এআই মডেলগুলোর ক্ষেত্রে বাধ্যতামূলক সক্ষমতা পরীক্ষা (ম্যান্ডেটরি ক্যাপাবিলিটিজ টেস্টিং) আইনগতভাবে নিশ্চিত করার উদ্যোগ সঠিক।
গুম ও নির্যাতনের অভিযোগে দায়ের হওয়া মামলার বিচারিক কার্যক্রমের অংশ হিসেবে র্যাবের আলোচিত টাস্কফোর্স ফর ইন্টারোগেশন (টিএফআই) সেল, যা ‘আয়নাঘর’ নামে পরিচিত, পরিদর্শন করেছেন আন্তর্জাতিক অপরাধ ট্রাইব্যুনাল-১-এর বিচারকরা।
৪ ঘণ্টা আগে
রাজধানীতে যানবাহনের তুলনায় অপ্রতুল সড়ক, একই সড়কে যান্ত্রিক-অযান্ত্রিক, স্বল্প ও দ্রুত গতির যানবাহনের চলাচল, ফুটপাত হকারের দখলে থাকা, ফুটওভার ব্রিজ যথাস্থানে নির্মাণ না হওয়া ও ব্যবহার উপযোগী না থাকা এবং সড়ক ব্যবহারকারীদের অসচেতনতার কারণে অতিমাত্রায় দুর্ঘটনা ও প্রাণহানি ঘটছে বলেও উল্লেখ করা হয় বিজ্ঞপ্
৫ ঘণ্টা আগে
গালফ নিউজ জানিয়েছে, এটি কোনো সাধারণ সূর্যগ্রহণ নয়। এটি ২১ শতকের সবচেয়ে দীর্ঘ পূর্ণ সূর্যগ্রহণগুলোর একটি। একই সঙ্গে ৭৫ বছরেরও বেশি সময় পর প্রথমবারের মতো সৌদি আরবের ওপর দিয়ে পূর্ণ সূর্যগ্রহণের পথ অতিক্রম করবে। সৌদি স্পেস এজেন্সি একে এই শতাব্দীর অন্যতম গুরুত্বপূর্ণ জ্যোতির্বৈজ্ঞানিক ঘটনা হিসেবে উল্লেখ
৬ ঘণ্টা আগে
খুলনা, বরিশাল, পটুয়াখালী, নোয়াখালী, চট্টগ্রাম, কক্সবাজার এবং সিলেট অঞ্চলগুলোর ওপর দিয়ে দক্ষিণ বা দক্ষিণ-পূর্ব দিক থেকে ঘণ্টায় ৪৫ থেকে ৬০ কিলোমিটার বেগে অস্থায়ীভাবে দমকা বা ঝড়ো হাওয়াসহ বৃষ্টি অথবা বজ্রসহ বৃষ্টি হতে পারে।
৮ ঘণ্টা আগে
ভিন্ন এআই প্রতিষ্ঠানে ‘হ্যাকিং চালিয়েছে’ ওপেনএআইয়ের এআই মডেল!
'এআই চ্যাটবট' ছদ্মবেশে শিশু-কিশোরদের সঙ্গে অনুপযুক্ত আলাপ করছে
এআই চ্যাটবটকে যে ১০ তথ্য কখনো দেবেন না
চ্যাটজিপিটি আসলে কীভাবে কাজ করে?
মার্কিন এআই মডেল কাজে লাগিয়ে প্রতিরক্ষা সক্ষমতা বাড়াচ্ছে চীন
