Jacob Coxon Anthropic: পরমাণু অস্ত্রের চেয়েও বড় হুমকি AI! পদত্যাগ করেই অশনিসংকেত অ্যানথ্রোপিকের প্রাক্তন গবেষকের

Jacob Coxon Anthropic resignation: সম্প্রতি সোশ্যাল মিডিয়ায় একের পর এক পোস্টে জেকব কক্সন দাবি করেন, এআই সমস্ত মানুষকে হত্যা করতে পারে।

Jacob Coxon Anthropic resignation: চাকরি ছাড়ার সময় সাধারণত মানুষ ধন্যবাদ জানিয়ে বিদায় নেন। কিন্তু অ্যানথ্রপিকের (Anthropic) প্রাক্তন গবেষক জেকব কক্সন (Jacob Coxon) বিদায়বেলায় যা লিখলেন, তাতে হইচই পড়ে গিয়েছে গোটা তথ্য প্রযুক্তি ও কৃত্রিম মেধা (AI) শিল্পে। তাঁর দাবি, কৃত্রিম সুপারইন্টেলিজেন্স বা মানুষের সক্ষমতাকে ছাড়িয়ে যাওয়া এআই মানবজাতির জন্য পারমাণবিক অস্ত্রের চেয়েও বড় ঝুঁকি তৈরি করতে পারে।

পদত্যাগ করেই অশনিসংকেত অ্যানথ্রোপিকের প্রাক্তন গবেষকের (সৌজন্যে টুইটার)

সম্প্রতি সোশ্যাল মিডিয়ায় একের পর এক পোস্টে জেকব কক্সন দাবি করেন, এআই সমস্ত মানুষকে হত্যা করতে পারে। মার্কিন সংবাদমাধ্যম ফক্স নিউজকে দেওয়া এক সাক্ষাৎকারে কক্সন বলেন, 'আমরা জানি কীভাবে পারমাণবিক অস্ত্র নিয়ন্ত্রণ করতে হয়...কিন্তু এআই কীভাবে নিয়ন্ত্রণ করতে হয়, তা এখনও জানি না।' প্রাক্তন গবেষকের দাবি, তিনি অ্যানথ্রপিক ও ওপেনএআইয়ে তিন বছর গবেষণার সঙ্গে যুক্ত ছিলেন। তাঁর কথায়, এআই 'মানবজাতির তৈরি সবচেয়ে বিপজ্জনক প্রযুক্তি' হতে পারে। তিনি বলেন, বিষয়টি অনেকটা কল্পবিজ্ঞানের মতো মনে হলেও এআই নিয়ে আন্তর্জাতিক সহযোগিতার কোনও বিকল্প নেই। কারণ উন্নত এআই তৈরির প্রতিযোগিতা ভয়াবহ পরিণতি ডেকে আনতে পারে।

প্রাক্তন গবেষকের সতর্কবার্তা

মঙ্গলবার সোশ্যাল মিডিয়ায় কক্সন অভিযোগ করেন, বিশ্বের দুই শীর্ষ এআই প্রতিষ্ঠান নিরাপত্তার চেয়ে একে অপরকে ছাড়িয়ে যাওয়ার প্রতিযোগিতায় বেশি গুরুত্ব দিচ্ছে। ২৭ বছর বয়সি ওই গবেষক বলেন, 'কোনও প্রতিষ্ঠানই দায়িত্বশীল আচরণ করছে না। তারা দ্রুত নিজেকে উন্নত করতে সক্ষম সুপারইন্টেলিজেন্স তৈরির দিকে এগোচ্ছে এবং এর মাধ্যমে আমাদের জীবন ঝুঁকির মধ্যে ফেলছে।' তিনি আরও বলেন, 'এআই তৈরি করা অনেকেই আন্তরিকভাবে বিশ্বাস করেন যে চলতি দশকের শেষ নাগাদ এআই পুরো মানবজাতির জন্য প্রাণঘাতী হয়ে উঠতে পারে।' এটি কোনও প্রচার কৌশল নয় বলেও দাবি করেন তিনি। সুপারইন্টেলিজেন্স বলতে এমন একটি তাত্ত্বিক পর্যায়কে বোঝায়, যখন এআইয়ের সক্ষমতা মানুষের বুদ্ধিমত্তাকে ছাড়িয়ে যাবে।

জেকব কক্সনকে সমর্থন অ্যানথ্রপিকের

কক্সনের বক্তব্যকে সমর্থন করেছেন অ্যানথ্রপিকের নিরাপত্তা বিভাগের কর্মকর্তা ইভান হুবিঙ্গার। এক্সে হ্যান্ডেলে তিনি বলেন, ‘আমরা সত্যিই বিশ্বাস করি, এআই সব মানুষকে হত্যা করতে পারে।’ আগামী এক দশকে এ ধরনের ঝুঁকি ১০ শতাংশের বেশি হতে পারে বলে তাঁর অনুমান। হুবিঙ্গার বলেন, অ্যানথ্রপিক ঝুঁকি কমাতে সর্বোচ্চ চেষ্টা করছে। তবে মানুষের সক্ষমতাকে ছাড়িয়ে যাওয়া কোনও এআই ব্যবস্থা তার নির্মাতাদের নির্দেশ মেনে চলবে, তা নিশ্চিত করার মতো পরিকল্পনা এখনও তাদের হাতে নেই। বর্তমান এআই মডেলগুলোর ক্ষেত্রে এমন ঝুঁকি তুলনামূলকভাবে কম বলেও জানান তিনি।

ত্রুটি

কক্সন অ্যানথ্রপিকের নিরাপত্তা উদ্যোগকে আন্তরিক বলে মনে করলেও তাঁর মতে, সরকারি হস্তক্ষেপ কিংবা সমন্বিতভাবে এআই উন্নয়নের গতি কমানো ছাড়া কোনও প্রতিষ্ঠানই মানুষের সক্ষমতার বাইরে চলে যাওয়া এআই দায়িত্বশীলভাবে তৈরি করতে পারবে না। তিনি বলেন, অ্যানথ্রপিক ঝুঁকির মাত্রা বোঝে। কিন্তু প্রতিষ্ঠানটি দ্রুত এগিয়ে যাওয়ার প্রতিযোগিতায় আটকে গেছে। তাদের আশঙ্কা, অন্যরা দায়িত্বশীল আচরণ করবে না। তাই ঝুঁকি থাকলেও নিজেদেরই আগে এগিয়ে যেতে হবে।

গত ফেব্রুয়ারিতে অ্যানথ্রপিক তাদের নিরাপত্তা সনদ থেকে এমন একটি অঙ্গীকার বাদ দেয়, যেখানে ঝুঁকি নিয়ন্ত্রণে ব্যর্থ হলে মডেল উন্নয়ন বন্ধ করার কথা ছিল। প্রতিষ্ঠানটির যুক্তি ছিল, তারা একতরফাভাবে কাজ বন্ধ করলে কম সতর্ক প্রতিদ্বন্দ্বীরা বাজারে এগিয়ে যাবে, যা সামগ্রিকভাবে এআই খাতকে আরও অনিরাপদ করে তুলতে পারে। জুলাইয়ের শেষ দিকে অ্যানথ্রপিকের সিইও ডারিও আমোদেই-সহ প্রযুক্তি খাতের এক হাজারের বেশি কর্মী ওয়াশিংটনের প্রতি উন্নত এআই ব্যবস্থার উন্নয়ন সমন্বিতভাবে ধীর করার আহ্বান জানান।

অন্যদিকে, ওপেনএআই আগস্টে তাদের সর্বশেষ মডেলের প্রশিক্ষণ দুই সপ্তাহের জন্য স্থগিত করে। পরে আরও কঠোর নিয়ন্ত্রণের মধ্যে প্রশিক্ষণ কার্যক্রম শুরু করা হয়। রবিবার ওপেনএআইয়ের প্রধান বিজ্ঞানী জ্যাকব পাচোকি ভবিষ্যৎ এআই উন্নয়নে ‘চরম সতর্কতা’ অবলম্বনের আহ্বান জানান। এক ব্লগ পোস্টে তিনি বলেন, ভবিষ্যৎ এআই উন্নয়ন নিয়ে আন্তর্জাতিক সমন্বয় বিশ্বের সরকারগুলোর অন্যতম প্রধান অগ্রাধিকার হওয়া প্রয়োজন। তবে মার্কিন যুক্তরাষ্ট্রে বর্তমানে এআই মডেলগুলোকে নিয়ন্ত্রণ করার জন্য কোনও ফেডারেল আইন নেই।