এআইয়ের গতিতে লাগাম টানার আহ্বান অ্যানথ্রপিক সিইওর

কৃত্রিম বুদ্ধিমত্তার (এআই) অপব্যবহার নিয়ে উদ্বেগ বাড়তে থাকায় শীর্ষ কোম্পানিগুলোকে তাদের মডেলের সক্ষমতা উন্নয়নের গতি কমানোর আহ্বান জানিয়েছেন অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা (সিইও) দারিও আমোদেই। এআইয়ের ঝুঁকি মোকাবিলায় পর্যাপ্ত সময় নিশ্চিত করতে তিন ধাপের একটি কাঠামোও প্রস্তাব করেছেন তিনি।

বার্তা সংস্থা রয়টার্সের খবরে বলা হয়েছে, শনিবার সামাজিক যোগাযোগমাধ্যম এক্স হ্যান্ডেলে এক দীর্ঘ নিবন্ধ শেয়ার করেছেন আমোদেই। লিখেছেন, এআই মডেলগুলোর সক্ষমতা আমরা যে গতিতে বাড়াচ্ছি, তা কমাতে হবে। এরপরও অগ্রগতির গতি দ্রুত বলেই মনে হবে, আর যে অতিরিক্ত সময় আমরা পাব, সেটি আমাদের বিচক্ষণতার সঙ্গে কাজে লাগাতে হবে।

আমোদেইর তিন দফা প্রস্তাবের প্রথমটিতে বলা হয়েছে— শীর্ষস্থানীয় বা ‘ফ্রন্টিয়ার’ এআই কোম্পানিগুলোর ভেতরে স্থায়ীভাবে স্বাধীন তৃতীয় পক্ষের মূল্যায়নকারী রাখা প্রয়োজন। কর্মীদের মতো প্রয়োজনীয় প্রবেশাধিকার দিয়ে মূলত তাদের কোম্পানির নিরাপত্তাব্যবস্থা যাচাইয়ের সুযোগ দেওয়ার কথা বলেছেন তিনি।

আমোদেইয়ের দ্বিতীয় প্রস্তাব— শীর্ষ এআই প্রতিষ্ঠানগুলোর মধ্যে সমন্বয়ের মাধ্যমে নিরাপত্তার অভিন্ন মান নির্ধারণ এবং নিয়ন্ত্রণহীনভাবে এআই সক্ষমতা বাড়ানো সীমিত করতে হবে। এরপর তৃতীয় ধাপে এআইয়ের ঝুঁকি ব্যবস্থাপনায় আন্তর্জাতিক সহযোগিতার দাবি জানিয়েছেন তিনি।

এক্স ও টেসলার স্বত্বাধিকারী ইলন মাস্ক এবং ওপেনএআইয়ের (চ্যাটজিপিটির কোম্পানি) সিইও স্যাম অল্টম্যান— দুজনই আমোদেইর বক্তব্যের সঙ্গে একমত হয়েছেন। অল্টম্যান লিখেছেন, এই ধারণাগুলো দারুণ এবং আমরাও এই কাজ করব। এ বিষয়ে শিগগির আরও তথ্য দেওয়া হবে বলেও জানিয়েছেন তিনি।

এর আগে অ্যানথ্রপিক বৃহস্পতিবার একটি ‘থ্রেট ইন্টেলিজেন্স’ প্রতিবেদন প্রকাশ করার পর আমোদেই তার নিবন্ধটি প্রকাশ করেন। ওই প্রতিবেদনে বলা হয়, বিভিন্ন পক্ষ অস্ত্র উন্নয়ন, সাইবার অভিযান, নজরদারি ও প্রতারণাসহ নানা কাজে অ্যানথ্রপিকের ক্লড এআই মডেল ব্যবহার করেছে।

এআইয়ের নিজের সক্ষমতা নিজেই উন্নত করার ক্রমবর্ধমান ক্ষমতার দিকেও দৃষ্টি আকর্ষণ করেছেন আমোদেই। এআই মানুষের নিয়ন্ত্রণের সক্ষমতাকে ছাড়িয়ে যেতেৎ পারে— দীর্ঘদিনের এ উদ্বেগের পাশাপাশি ওপেনএআই ও হাগিং ফেস ঘিরে সাম্প্রতিক ঘটনাকে মডেল উন্নয়নের গতি কমানোর প্রধান কারণ হিসেবে উল্লেখ করেছেন তিনি।

চলতি সপ্তাহে অ্যানথ্রপিকের গবেষক জ্যাকব কক্সন পদত্যাগ করার পর এআইয়ের সম্ভাব্য ক্ষতি নিয়ে উদ্বেগ আরও বেড়েছে। পদত্যাগের সময় কক্সন বলেন, ‘যারা এআই তৈরি করছেন, তারা আন্তরিকভাবেই বিশ্বাস করেন যে এটি এই দশকের শেষ নাগাদ আমাদের সবাইকে মেরে ফেলতে পারে।’

ওপেনএআইয়ের বিভিন্ন নির্বাহীও বলেছেন, নিরাপত্তাব্যবস্থা সম্পর্কে আস্থা তৈরির প্রয়োজন হলে শীর্ষ এআই গবেষণাগারগুলোর স্বেচ্ছায় সমন্বিতভাবে উন্নয়নের গতি কমাতে প্রস্তুত থাকা উচিত।

নিজেদের তুলনামূলকভাবে নিরাপত্তাসচেতন এআই প্রতিষ্ঠান হিসেবে দাবি করলেও অ্যানথ্রপিক নিজেও এসব উদ্বেগ থেকে মুক্ত নয়। গত সপ্তাহে প্রতিষ্ঠানটি এআই মডেলের বাহ্যিক সিস্টেম হ্যাক করার আরেকটি ঘটনা প্রকাশ করে। এর আগে জুলাইয়ে সাইবার নিরাপত্তা পরীক্ষার সময় ক্লডের কয়েকটি মডেল তিনটি কোম্পানির সিস্টেমে হ্যাক করেছিল।

আমোদেই লিখেছেন, এআইয়ের সক্ষমতা যে হারে বাড়ছে, তাতে আমার আশঙ্কা— ৬ থেকে ১২ মাসের মধ্যে এ ধরনের একটি ‘সোয়ার্ম’ পুরো ইন্টারনেটের নিয়ন্ত্রণ নেওয়ার সক্ষমতা অর্জন করতে পারে, যার ফলে সম্ভাব্য শত শত বিলিয়ন ডলারের ক্ষতি হতে পারে।

তবে এআই মডেলের প্রশিক্ষণ বা প্রযুক্তিগত অগ্রগতি পুরোপুরি বন্ধ করার আহ্বান জানাচ্ছেন না বলে স্পষ্ট করেছেন আমোদেই। তার প্রস্তাব, কোম্পানিগুলো যেন মডেলকে মানুষের উদ্দেশ্য ও মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ করে এবং প্রয়োজনীয় সুরক্ষাব্যবস্থা নিশ্চিত করার জন্য যথেষ্ট সময় নেয়। একই সঙ্গে স্বাধীন তৃতীয় পক্ষের মূল্যায়নকারীদের যাচাই করতে হবে যে এসব ব্যবস্থা যথাযথভাবে নেওয়া হয়েছে কি না।

নিরাপত্তার এই উদ্বেগের পাশাপাশি এআই প্রতিযোগিতায় এগিয়ে থাকার সঙ্গে বিপুল আর্থিক স্বার্থও জড়িত। ওপেনএআই ও অ্যানথ্রপিক— দুই প্রতিষ্ঠানই বড় আকারের প্রাথমিক গণপ্রস্তাব বা আইপিওর প্রস্তুতি নিচ্ছে। মডেলের প্রতিটি নতুন সক্ষমতা ভবিষ্যৎ তহবিল সংগ্রহ, অবকাঠামো বিনিয়োগের অঙ্গীকার কিংবা আইপিওর মূল্যায়নকে সমর্থন করতে পারে।

আমোদেইর প্রস্তাব, শীর্ষ এআই কোম্পানিগুলোতে স্থায়ীভাবে তৃতীয় পক্ষের পর্যালোচক রাখতে হবে। প্রাসঙ্গিক প্রযুক্তি ও অভ্যন্তরীণ ঝুঁকি মূল্যায়ন প্রক্রিয়ায় তাদের প্রবেশাধিকার থাকবে।

এর আগে রয়টার্স গত সপ্তাহে এক প্রতিবেদনে জানায়, নিয়ন্ত্রণের বাইরে চলে যাওয়া ওপেনএআইয়ের একটি দল বা ‘সোয়ার্ম’ এআই এজেন্ট একটি জার্মান ওয়েবসাইট দখল করে সেটিকে অন্য এআই এজেন্টের জন্য বার্তা আদান-প্রদানের বোর্ডে পরিণত করেছিল। জুলাইয়ে ওপেন-সোর্স রিপোজিটরি হাগিং ফেসে অনুপ্রবেশের ঘটনার পর এর প্রভাব সামলানোর সময় ওপেনএআই কর্মকর্তারা জার্মান ওয়েবসাইটের ঘটনাটি গোপন রেখেছিলেন বলে উল্লেখ করা হয়েছে রয়টার্সের প্রতিবেদনে।

ওপেনএআইসহ বিভিন্ন প্রতিষ্ঠানের তৈরি এআই এজেন্টের বাহ্যিক সিস্টেম হ্যাক করা বা সেখানে অননুমোদিতভাবে প্রবেশের চেষ্টার একাধিক ঘটনা এআই মডেলের ক্রমবর্ধমান সক্ষমতা এবং সেগুলো নিয়ন্ত্রণে ডেভেলপারদের সামর্থ্য নিয়ে উদ্বেগ বাড়িয়েছে।

যুক্তরাষ্ট্রে এআই নিয়ন্ত্রণে নতুন আইন করার দাবি যখন আইনপ্রণেতাদের মধ্যে বাড়ছে, তখন কোম্পানিগুলোর স্বেচ্ছায় একসঙ্গে কাজ করে নিরাপত্তার মান নির্ধারণ করা উচিত বলে মত দিয়েছেন আমোদেই। তার মতে, সমন্বিত ব্যবস্থা থাকলে শীর্ষ মার্কিন এআই প্রতিষ্ঠানগুলো প্রতিযোগিতায় পিছিয়ে পড়ার ঝুঁকি ছাড়াই প্রয়োজনীয় নিরাপত্তা গবেষণা ও সুরক্ষাব্যবস্থা বাস্তবায়ন করতে পারবে। নির্দিষ্ট কিছু ক্ষেত্রে প্রতিষ্ঠানগুলোর মধ্যে এমন সহযোগিতা সম্ভব করতে যুক্তরাষ্ট্রে লক্ষ্যভিত্তিক অ্যান্টিট্রাস্ট ছাড়ের প্রয়োজন হতে পারে বলেও তিনি মনে করেন।

তবে গণতান্ত্রিক দেশগুলোর এআই উন্নয়নের গতি কমানোর ক্ষেত্রে চীনের সঙ্গে প্রতিযোগিতাকে একটি সীমা হিসেবে দেখছেন আমোদেই। তার যুক্তি, চীন এআইয়ে এগিয়ে গেলে তা যুক্তরাষ্ট্রের জাতীয় নিরাপত্তার জন্য ঝুঁকি তৈরি করবে। তিনি লিখেছেন, ‘গণতান্ত্রিক দেশগুলোর মধ্যে উন্নয়নের গতি নিয়ন্ত্রণের সুযোগ নির্ভর করবে কর্তৃত্ববাদী শাসনব্যবস্থা, প্রধানত চীনা কমিউনিস্ট পার্টির ওপর মার্কিন কোম্পানিগুলোর যে অগ্রগামিতা রয়েছে, তার ওপর।’

চীন যেন ব্যবধান কমাতে না পারে, সে জন্য উন্নত এআই চিপ, ‘মডেল ডিস্টিলেশন’ ও মডেলের ‘ওয়েট’ চুরি ঠেকাতে আরও কঠোর নিয়ন্ত্রণেরও আহ্বান জানিয়েছেন অ্যানথ্রপিকের সিইও।

আমোদেই লিখেছেন, আমি মনে করি, সব ফ্রন্টিয়ার ল্যাবেরই সরকারের সঙ্গে অংশীদারত্বের ভিত্তিতে স্থায়ীভাবে অভ্যন্তরীণ মূল্যায়নকারী রাখার ধারণাটিকে আনুষ্ঠানিক রূপ দেওয়া উচিত। এর মাধ্যমে গত কয়েক মাসে ঘটে যাওয়া অভ্যন্তরীণ অ্যালাইনমেন্ট-সংক্রান্ত ঘটনার মতো ঘটনা আরও ভালোভাবে প্রতিরোধ ও নথিভুক্ত করা যাবে। একই সঙ্গে সক্ষমতা ও নিরাপত্তার মধ্যে ভারসাম্য বজায় রাখার লক্ষ্যে নিয়ন্ত্রণব্যবস্থা কার্যকর করা উচিত।