মার্কিন সরকারি ওয়েবসাইটগুলোতে ওপেনএআইয়ের বটের হস্তক্ষেপ, নিয়ন্ত্রণ নিয়ে উদ্বেগ

মার্কিন সরকারের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেনসাস ব্যুরো ও শিক্ষা বিভাগসহ বিভিন্ন সরকারি ওয়েবসাইটে ওপেনএআইয়ের কৃত্রিম বুদ্ধিমত্তা (এআই) বট ‘অনাকাঙ্ক্ষিতভাবে’ হস্তক্ষেপ করেছে।

কিছু ক্ষেত্রে এসব বট ওয়েবসাইটের নিরাপত্তাব্যবস্থা এড়িয়ে তথ্য সংগ্রহের চেষ্টা করেছে এবং এসইসির ওয়েবসাইট থেকে সংগৃহীত তথ্য অন্য একটি ওয়েবসাইটেও প্রকাশ করেছে। এ ঘটনায় এআই প্রযুক্তির ওপর নিয়ন্ত্রণ ও এর নিরাপত্তা নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে।

বিবিসির খবরে বলা হয়েছে, শুক্রবার (২৫ সেপ্টেম্বর) ওপেনএআই এসব ঘটনার বিস্তারিত প্রকাশ করেছে।

প্রতিষ্ঠানটি জানিয়েছে, তাদের এআই এজেন্ট— অর্থাৎ কিছুটা স্বয়ংক্রিয়ভাবে কাজ করার জন্য তৈরি ও প্রশিক্ষিত বট যুক্তরাষ্ট্রসহ বিশ্বের বিভিন্ন সরকারি সংস্থা, বিশ্ববিদ্যালয় ও অন্যান্য প্রতিষ্ঠানের ওয়েবসাইট থেকে তথ্য পাওয়ার চেষ্টা করেছে। এ ধরনের অনাকাঙ্ক্ষিত কর্মকাণ্ডের বিষয়ে ‘ডজনখানেক’ বৈশ্বিক প্রতিষ্ঠানকে সতর্কও করেছে ওপেনএআই।

অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজের বক্তব্যের কয়েক দিন পর এসব তথ্য সামনে এল। আলবানিজ জানিয়েছিলেন, ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়া সরকারের পরিচালিত স্বাস্থ্যসেবা প্রকল্পের ওয়েবসাইটে সাধারণের জন্য উন্মুক্ত নয়— এমন কিছু ফাইলে প্রবেশ করেছিল।

আগস্ট থেকে মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই প্রযুক্তির সম্ভাব্য গুরুতর, এমনকি জীবনহানির মতো প্রভাব নিয়ে উদ্বেগ বাড়ছে। নতুন এসব ঘটনায় সেই উদ্বেগ আরও জোরালো হয়েছে।

সরকারি ওয়েবসাইটে কী করেছে এআই বট

ওপেনএআই জানিয়েছে, তাদের কিছু এআই এজেন্ট বিভিন্ন ওয়েবসাইট থেকে তথ্য সংগ্রহ করেছে। এসব এজেন্ট মূলত এমন বট, যেগুলো কিছুটা স্বয়ংক্রিয়ভাবে কাজ করার জন্য তৈরি ও প্রশিক্ষিত। তাদের উদ্দেশ্য ছিল ‘জনসাধারণের তথ্যের নির্ভরযোগ্য উৎস’ খুঁজে বের করা।

তবে কিছু বট এ উদ্দেশ্যের বাইরে গিয়ে ওয়েবসাইটের নিরাপত্তাব্যবস্থা এড়িয়ে তথ্য সংগ্রহের চেষ্টা করেছে বলে জানিয়েছে ওপেনএআই।

উদাহরণ হিসেবে প্রতিষ্ঠানটি বলেছে, যুক্তরাষ্ট্রের সেনসাস ব্যুরোর তথ্য সংগ্রহের সময় তাদের একটি এআই এজেন্ট সফটওয়্যার নির্মাতাদের জন্য নির্ধারিত কিছু সরঞ্জাম ব্যবহার করে ওই তথ্য পাওয়ার চেষ্টা করে।

ওপেনএআই জানিয়েছে, তাদের বট যেসব সরকারি তথ্য সংগ্রহ করেছে, সেগুলো সবই সাধারণের জন্য উন্মুক্ত ছিল।

তবে শেয়ারবাজার নিয়ন্ত্রণ ও বিনিয়োগকারীদের সুরক্ষার দায়িত্বে থাকা এসইসির ওয়েবসাইট থেকে তাদের বট যে তথ্য সংগ্রহ করেছিল, পরে সেই তথ্য এআই এজেন্টরা অন্য একটি ওয়েবসাইটে প্রকাশ করে। ওপেনএআই বলেছে, এ ধরনের কর্মকাণ্ড তাদের উদ্দেশ্যের অংশ ছিল না।

শুক্রবার প্রকাশ করা অন্যান্য ঘটনার তথ্যেও ওপেনএআই জানিয়েছে, কিছু ক্ষেত্রে তাদের এআই এজেন্ট এমন তথ্যও অন্যত্র পাঠিয়েছে, যা পাঠানোর কথা ছিল না।

ব্যবহারকারীদের ছবিও অন্যত্র পাঠিয়েছে

ওপেনএআইয়ের তথ্য অনুযায়ী, অন্তত ৫৩টি ঘটনায় তাদের কোনো এজেন্ট চ্যাটজিপিটির ব্যবহারকারীদের কার্যক্রমের সময় তৈরি একটি ছবি নিয়ে সেটি অন্য কোথাও পাঠিয়েছে।

প্রতিষ্ঠানটি বলেছে, ব্যবহারকারীর কোনো ছবি এআই এজেন্ট ব্যবহার করে অন্যত্র পাঠানোর প্রতিটি ঘটনাতেই সংশ্লিষ্ট ব্যবহারকারী ওপেনএআইকে তাদের তথ্য ব্যবহার করে এআই মডেল প্রশিক্ষণের অনুমতি দিয়েছিলেন।

তবে ওপেনএআই নিজেই স্বীকার করেছে, ‘এটি এই তথ্য ব্যবহারের উপযুক্ত পদ্ধতি নয়।’

প্রতিষ্ঠানটি আরও জানিয়েছে, এআই প্রশিক্ষণে নতুন নিরাপত্তাব্যবস্থা চালু করার আগেই ব্যবহারকারীদের ছবি অন্যত্র পাঠানোর ঘটনাগুলো ঘটেছিল। এদিকে, এজেন্টরা তৃতীয় পক্ষের কাছে যেসব ব্যবহারকারীর ছবি পাঠিয়েছে, সেগুলো সরিয়ে ফেলতে কাজ করছে ওপেনএআই।

বিষয়টি নিয়ে বিস্তৃত তদন্তের খবর প্রথম প্রকাশ করে রয়টার্স। পরে ওপেনএআইও তাদের প্রকাশ্য ব্লগে এ বিষয়ে বিস্তারিত তথ্য প্রকাশ করে।

‘মিসঅ্যালাইনমেন্ট’ নিয়ে উদ্বেগ

ওপেনএআই জানিয়েছে, এআই এজেন্টদের কিছু কর্মকাণ্ডে বিভিন্ন ওয়েবসাইটের নিরাপত্তানিয়ন্ত্রণ ‘এড়িয়ে’ যাওয়া হয়েছিল।

অন্য কিছু ঘটনায় ওয়েবসাইট থেকে তথ্য পাওয়ার চেষ্টার সময় এআই এজেন্টদের মধ্যে ‘মিসঅ্যালাইনমেন্ট’ দেখা যায়। এআই প্রতিষ্ঠান ও গবেষকেরা এমন পরিস্থিতিকে মিসঅ্যালাইনমেন্ট বলেন, যখন কোনো এআই টুলকে যে কাজের জন্য প্রশিক্ষণ দেওয়া হয়েছে, তার বাইরে গিয়ে সেটি কোনো কাজ করে বা এমন কিছু করে, যা উদ্দেশ্যপ্রণোদিত ছিল না।

কোন কোন প্রতিষ্ঠান এসব ঘটনায় ক্ষতিগ্রস্ত হয়েছে, সে বিষয়ে বিস্তারিত তথ্য সীমিত রাখছে ওপেনএআই। প্রতিষ্ঠানটির ভাষ্য, অনেক প্রতিষ্ঠানই তাদের নাম প্রকাশ না করার অনুরোধ করেছে।

ওপেনএআই বলেছে, ‘আমাদের লক্ষ্য হলো প্রতিটি প্রতিষ্ঠানকে ঘটনার বিষয়ে তথ্য জানানো এবং ঘটনাটি কখন ও কীভাবে প্রকাশ্যে আনা হবে, সে বিষয়ে সিদ্ধান্ত নেওয়ার দায়িত্ব সংশ্লিষ্ট প্রতিষ্ঠানের ওপর ছেড়ে দেওয়া।’

তবে প্রতিষ্ঠানটি জানিয়েছে, এসব ঘটনার সবগুলোকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না।

ওপেনএআইয়ের ভাষ্য, ‘আমরা যে তথ্য দিচ্ছি, তা পর্যালোচনা করে কিছু প্রতিষ্ঠান হয়তো সিদ্ধান্তে আসতে পারে যে তথ্যগুলো ইচ্ছাকৃতভাবেই সবার জন্য উন্মুক্ত ছিল অথবা মডেলটির কার্যক্রম উদ্বেগের কারণ ছিল না। আবার অন্য প্রতিষ্ঠানগুলো এমন কোনো নকশাগত সমস্যা বা নিরাপত্তার দুর্বলতা শনাক্ত করতে পারে, যা তাদের সমাধান করা প্রয়োজন।’

‘এজেন্ট স্প্যাম’ কী

ওপেনএআই জানিয়েছে, এসব ঘটনার অনেকগুলোকে ‘এজেন্ট স্প্যাম’ বলা হচ্ছে। প্রতিষ্ঠানটির ভাষায়, ইন্টারনেটে তথ্য প্রকাশের মতো ‘অপ্রত্যাশিত বা উদ্বেগজনক’ এআই এজেন্টের কর্মকাণ্ডকে এভাবে বর্ণনা করা হচ্ছে।

জুলাইয়ে এআই ডেভেলপারদের প্ল্যাটফর্ম হাগিং ফেসে একটি ঘটনা ঘটার পর থেকে ওপেনএআই এ ধরনের ঘটনাকে আরও গুরুত্বের সঙ্গে দেখা শুরু করে। ওই ঘটনায় তাদের এআই এজেন্টদের একটি দল বা ‘সোয়াম’ কোনো নির্দেশনা ছাড়াই হাগিং ফেসে সাইবার হামলা চালায়।

ঘটনাটি প্রথম প্রকাশ্যে আনে হাগিং ফেস। পরে ওপেনএআইও প্রকাশ্যে ওই ঘটনার দায় স্বীকার করে।

বুধবার জাতিসংঘের নিরাপত্তা পরিষদের এআই-বিষয়ক এক বৈঠকে হাগিং ফেসের প্রধান ক্লেমেন্ট দেলাঙ্গু বলেন, ‘আমি প্রায়ই ভাবি, আমি যদি ওই হামলার বিষয়টি প্রকাশ্যে না আনার সিদ্ধান্ত নিতাম, তাহলে কী ঘটত।’

তিনি আরও বলেন, ‘বিশেষ করে এখন আমরা জানতে পারছি, এর কয়েক মাস আগে থেকেই কয়েকটি শীর্ষস্থানীয় এআই প্রতিষ্ঠানে একই ধরনের ঘটনা গোপনে ঘটছিল এবং সেগুলো পর্যবেক্ষণের আওতায় ছিল না।’

ওই একই জাতিসংঘের বৈঠকে ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা (সিইও) স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান দারিও আমোদেই আন্তর্জাতিক নেতাদের এআই নিরাপত্তার জন্য বৈশ্বিক মানদণ্ড তৈরি এবং এ ধরনের ঘটনা পর্যবেক্ষণ ও প্রতিবেদন করার ব্যবস্থা গড়ে তোলার আহ্বান জানান।

তৃতীয় পক্ষের মূল্যায়ন শুরু হয়নি

বিবিসি জানিয়েছে, ওপেনএআই ও অ্যানথ্রপিক— দুই প্রতিষ্ঠানই সাম্প্রতিক সপ্তাহগুলোতে বলেছে, এআই টুল ও মডেলের নিরাপত্তা তাৎক্ষণিকভাবে মূল্যায়নের জন্য তারা তৃতীয় পক্ষের মূল্যায়নকারীদের নিজেদের প্রতিষ্ঠানের ভেতরে কাজ করার সুযোগ দেবে। তবে এখনো এসব মূল্যায়নকারী কাজ শুরু করেননি।

শুক্রবার ওপেনএআই জানিয়েছে, তারা বর্তমানে তাদের এআই এজেন্টদের প্রশিক্ষণসংক্রান্ত কার্যক্রম পর্যালোচনা করছে। জুলাইয়ে হাগিং ফেসে হামলার ঘটনা ঘটার সময় থেকে শুরু করে মাস ধরে মাস পেছনের কার্যক্রমও তারা খতিয়ে দেখছে।

প্রতিষ্ঠানটি বলেছে, ‘এখন পর্যন্ত শনাক্ত হওয়া বেশির ভাগ ঘটনাই কম মাত্রার গুরুতরতার এবং এগুলোর উল্লেখযোগ্য প্রভাবের সীমিত বা কোনো প্রমাণ পাওয়া যায়নি।’ তবে তারা জানিয়েছে, এই পর্যালোচনার পরিধি বড় এবং প্রতিটি ঘটনা যাচাই করার প্রয়োজন রয়েছে। ফলে পুরো কাজ শেষ হতে কয়েক মাস সময় লাগবে।

কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের মেশিন লার্নিংয়ের অধ্যাপক এবং এআই নিরাপত্তাবিষয়ক সংগঠন ইভিটেবলের প্রতিষ্ঠাতা ডেভিড ক্রুগার শুক্রবার বলেন, এআই-সংক্রান্ত নিরাপত্তা ঘটনার সংখ্যা বাড়তে থাকায় তিনি ‘গভীরভাবে উদ্বিগ্ন’।

তিনি এআই উন্নয়নের ওপর ‘তাৎক্ষণিক ও অনির্দিষ্টকালের জন্য আন্তর্জাতিক স্থগিতাদেশ’ দেওয়ার আহ্বান জানান।

ক্রুগার বলেন, ‘ইতিমধ্যে ঘটে যাওয়া ঘটনাগুলোর পরিধি আমরা এখনো পুরোপুরি বুঝতে পারিনি। ভবিষ্যতে নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই-সংক্রান্ত পরিস্থিতি ভয়াবহ পরিণতি ডেকে আনতে পারে।’