ডিপফেক ছবির জন্য মাস্কের এআই চ্যাটবট গ্রোকের অ্যাক্সেস ব্লক করেছে ইন্দোনেশিয়া ↗
নারী ও শিশুদের লক্ষ্য করে তৈরি করা ছবি সহ, সম্মতিহীন যৌন ডিপফেক তৈরির জন্য গ্রোক ব্যবহার করার পর ইন্দোনেশিয়া সাময়িকভাবে এটিকে ব্লক করে দেয়। সরকার এটিকে একটি মানবাধিকার এবং জননিরাপত্তার সমস্যা হিসেবে চিহ্নিত করেছে, কোনও ছোটখাটো প্রযুক্তিগত অসুবিধা নয়।.
চাপের বিষয়টি স্পষ্ট: যদি কোনও হাতিয়ার কমান্ডের মাধ্যমে প্রকৃত মানুষকে "কাপড় খুলে ফেলতে" পারে, তাহলে প্রমাণের বোঝা উল্টে যায়। প্ল্যাটফর্মগুলিকে কেবল এটি সম্পর্কে চিন্তাভাবনা করার প্রতিশ্রুতি দিলেই হবে না, বরং এটি প্রমাণ করতে হবে যে তারা এটি প্রতিরোধ করতে পারে।.
এক্স-এর সম্ভাব্য নিষেধাজ্ঞার মুখে যুক্তরাজ্য বাকস্বাধীনতা দমন করতে চায় বলে ইলন মাস্ক বলেছেন ↗
গ্রোককে সম্মতি ছাড়াই যৌন স্পষ্ট ছবি তৈরি করার জন্য ব্যবহার করার পর যুক্তরাজ্যের মন্ত্রীরা প্রকাশ্যে জরিমানা ঘোষণা করেছিলেন - এমনকি এক্সকে ব্লকও করেছিলেন। মাস্ক পরিচিত বাকস্বাধীনতার কাঠামো দিয়ে পিছিয়ে এসেছিলেন... কিন্তু যুক্তরাজ্যের আইনি অবস্থান "বিতর্ক ক্লাব" থেকে "সম্মতির সময়সীমা"-এর দিকে সরে যাচ্ছে।
অফকমকে দ্রুত পদক্ষেপ নিতে বলা হচ্ছে, এবং আইন প্রণেতারা একই ভয়াবহ প্যাটার্নের দিকে ইঙ্গিত করছেন: একবার ছবিগুলি ছড়িয়ে পড়লে, ক্ষতি নীতি আপডেটের জন্য ধৈর্য ধরে অপেক্ষা করে না।.
🧑💻 ওপেনএআই ঠিকাদারদের অতীতের কাজ থেকে আসল কাজ আপলোড করতে বলছে বলে জানা গেছে ↗
ওপেনএআই, একটি প্রশিক্ষণ ডেটা পার্টনারের সাথে, ঠিকাদারদের অতীত (এবং বর্তমান) কাজ থেকে বাস্তব কাজের নিদর্শনগুলি আপলোড করতে বলছে বলে জানা গেছে - ডক্স, স্প্রেডশিট, ডেক, রেপো মনে করুন। ঘোষিত লক্ষ্য হল অফিস-টাইপ কাজে এআই এজেন্টদের মূল্যায়ন এবং উন্নত করা।.
আঠালো অংশটি স্পষ্ট, এবং কিছুটা অবাস্তব: ঠিকাদারদের বলা হয় সংবেদনশীল তথ্য নিজেরাই মুছে ফেলতে। দ্রুত চলমান পাইপলাইনে এটি অনেক আস্থা রাখার মতো - যেমন কাউকে ভালোবাসার সাথে ওভেন মিট ব্যবহার করে বোমা নিষ্ক্রিয় করতে বলা।.
🗂️ ওপেনএআই ঠিকাদারদের এআই এজেন্টদের কর্মক্ষমতা মূল্যায়নের জন্য অতীতের কাজ থেকে কাজ আপলোড করতে বলছে ↗
একই ব্যবস্থা এবং কেন এটি গোপনীয়তা এবং আইপি আইনজীবীদের সতর্ক করে তা নিয়ে একটি পৃথক প্রতিবেদনে আলোচনা করা হয়েছে। এমনকি যদি সবাই সৎ বিশ্বাসে কাজ করে, তবুও যখন আপনি প্রকৃত কর্পোরেট নথি নিয়ে কাজ করেন তখন "গোপনীয় জিনিসপত্র সরিয়ে ফেলুন" একটি অস্পষ্ট নির্দেশ।.
এটি আরও বৃহত্তর কৌশলের দিকে ইঙ্গিত করে: এআই এজেন্টরা এখন আর কেবল কথাবার্তা বলা সহ-পাইলট নয় - তাদের প্রকৃত কাজের জটিল, বহু-ফাইল বাস্তবতা অনুকরণ করার জন্য প্রশিক্ষণ দেওয়া হচ্ছে। ব্যবহারিক, হ্যাঁ। আর কিছুটা... হায়।.
🏦 বীমায় দায়িত্বশীল এআই-কে উন্নত করতে অ্যালিয়ানজ এবং অ্যানথ্রপিক ফোর্জের বৈশ্বিক অংশীদারিত্ব ↗
অ্যালিয়ানজ এবং অ্যানথ্রপিক তিনটি ট্র্যাকের উপর দৃষ্টি নিবদ্ধ করে একটি বিশ্বব্যাপী অংশীদারিত্ব ঘোষণা করেছে: কর্মচারী উৎপাদনশীলতা, এজেন্টিক এআই এর মাধ্যমে অপারেশনাল অটোমেশন এবং ডিজাইন অনুসারে সম্মতি। বীমা হল দাঁত দিয়ে কাগজপত্র তৈরি করা, তাই এখানে "এজেন্টিক" বলতে মূলত অডিট ট্রেইল না হারিয়ে জটিল কর্মপ্রবাহ স্বয়ংক্রিয় করা বোঝায়।.
আসল কথা হলো: দারুন অটোমেশন করুন, কিন্তু রসিদগুলো ধরে রাখুন। নিয়ন্ত্রিত শিল্পে, দায়বদ্ধতা পিনাটাতে পরিণত না হয়ে এটিই একমাত্র উপায় যার মাধ্যমে এটি স্কেল করা যায়।.
🕵️♂️ X-এ Grok AI-এর প্রতিক্রিয়ায় বিবৃতি ↗
যুক্তরাজ্যের ডেটা সুরক্ষা নিয়ন্ত্রক সংস্থা জানিয়েছে যে গ্রোক-উত্পাদিত কন্টেন্ট নিয়ে উদ্বেগের পরিপ্রেক্ষিতে, তারা কীভাবে ব্যক্তিগত ডেটা পরিচালনা করছে এবং মানুষের অধিকার রক্ষা করছে সে সম্পর্কে স্পষ্টতা চেয়ে X এবং xAI-এর সাথে যোগাযোগ করেছে। এটি কেবল "কন্টেন্ট মডারেশন" নয় - এটি মানুষের ডেটা আইনত প্রক্রিয়াজাত করা হচ্ছে কিনা এবং অধিকার সুরক্ষিত হচ্ছে কিনা তাও।.
এটি এমন এক ধরণের নিয়ন্ত্রক পদক্ষেপ যা ভদ্র শোনালেও, উত্তরগুলি যদি অস্পষ্টভাবে ফিরে আসে... অথবা এড়িয়ে যাওয়ার মতো, অথবা উভয়ই, তাহলে নীরবে অত্যন্ত গুরুতর হয়ে ওঠে।.
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
ইন্দোনেশিয়া কেন গ্রোক এআই-এর অ্যাক্সেস বন্ধ করে দিয়েছে?
নারী ও শিশুদের লক্ষ্য করে তৈরি করা ছবি সহ অসম্মতিমূলক যৌন ডিপফেক তৈরির জন্য গ্রোক ব্যবহার করা হয়েছিল বলে জানা যাওয়ার পর ইন্দোনেশিয়া সাময়িকভাবে এটিকে ব্লক করে দিয়েছে। কর্মকর্তারা এই পদক্ষেপকে মানবাধিকার এবং জননিরাপত্তার সমস্যা হিসেবে তুলে ধরেছেন, কোনও ছোটখাটো প্রযুক্তিগত বিরোধ নয়। অন্তর্নিহিত বার্তাটি হল যে "আমরা পরে এটি ঠিক করব" যখন সরঞ্জামগুলি তাৎক্ষণিক, অপরিবর্তনীয় ক্ষতি করতে পারে তখন এটি ব্যর্থ হয়।.
এক্স-এ গ্রোক-জেনারেটেড ডিপফেকস আসার পর যুক্তরাজ্য কী বিবেচনা করছে?
সম্মতি ছাড়াই যৌন স্পষ্ট ছবি তৈরির জন্য গ্রোককে ব্যবহার করার পর যুক্তরাজ্যের মন্ত্রীরা প্রকাশ্যে জরিমানা এবং এমনকি এক্সকে ব্লক করার সম্ভাবনা নিয়ে আলোচনা করেছেন। রাজনৈতিক এবং নিয়ন্ত্রক সুর উন্মুক্ত বিতর্কের পরিবর্তে প্রয়োগযোগ্য সম্মতির দিকে সরে যাচ্ছে। আইন প্রণেতারা যে বিষয়টিতে ফিরে যাচ্ছেন তা হল সময়: একবার ছবি ছড়িয়ে পড়লে, প্ল্যাটফর্মগুলি আপডেট নীতি প্রকাশ করার অনেক আগেই ভুক্তভোগীরা ক্ষতির সম্মুখীন হন।.
নিয়ন্ত্রকরা যখন এআই ইমেজ টুলের জন্য "প্রমাণের বোঝা উল্টে দেন" তখন এর অর্থ কী?
"প্রমাণের বোঝা উল্টে যায়" ধারণাটি হল যে প্ল্যাটফর্মগুলিকে কেবল সুরক্ষার প্রতিশ্রুতি দেওয়ার পরিবর্তে দেখাতে হবে যে তারা নির্দিষ্ট ক্ষতি প্রতিরোধ করতে পারে - যেমন অ-সম্মতিমূলক "কাপড় খোলা" ছবি তৈরি করা। বাস্তবে, এটি কোম্পানিগুলিকে প্রদর্শনযোগ্য নিয়ন্ত্রণ, পরিমাপযোগ্য প্রয়োগ এবং স্পষ্ট ব্যর্থতা পরিচালনার দিকে ঠেলে দেয়। এটি আরও ইঙ্গিত দেয় যে "উদ্দেশ্য" বাস্তব ফলাফল এবং পুনরাবৃত্তিযোগ্য প্রতিরোধের চেয়ে কম গুরুত্বপূর্ণ।.
প্ল্যাটফর্মগুলি কীভাবে কৃত্রিম বুদ্ধিমত্তা (AI) দ্বারা তৈরি অ-সম্মতিসূচক ডিপফেকের ঝুঁকি কমাতে পারে?
একটি সাধারণ পদ্ধতি হল স্তরবদ্ধ প্রতিরোধ: প্রকৃত মানুষের সাথে সম্পর্কিত প্রম্পট এবং আউটপুট সীমাবদ্ধ করা, "পোশাক খুলে ফেলা" স্টাইলের অনুরোধগুলিকে ব্লক করা, এবং সম্মতি ছাড়াই যৌন চিত্র তৈরির প্রচেষ্টা সনাক্ত করা এবং বন্ধ করা। অনেক পাইপলাইনে রেট সীমা, শক্তিশালী পরিচয় এবং অপব্যবহার পর্যবেক্ষণ এবং কন্টেন্ট ছড়িয়ে পড়ার পরে দ্রুত সরিয়ে ফেলার কর্মপ্রবাহ যুক্ত করা হয়। লক্ষ্য কেবল নীতিগত ভাষা নয়, বরং এমন সরঞ্জাম যা প্রতিকূল ব্যবহারের অধীনেও টিকে থাকে।.
ওপেনএআই-এর ঠিকাদাররা প্রকৃত কাজের নথি আপলোড করলে কেন উদ্বেগ বাড়ছে?
প্রতিবেদনে বলা হয়েছে যে OpenAI (একটি প্রশিক্ষণ ডেটা অংশীদারের সাথে) ঠিকাদারদের অফিস-টাস্ক AI এজেন্টদের মূল্যায়ন এবং উন্নত করার জন্য বাস্তব কাজের জিনিসপত্র - নথি, স্প্রেডশিট, ডেক এবং রেপো - আপলোড করতে বলছে। উদ্বেগের বিষয় হল ঠিকাদারদের সংবেদনশীল বিবরণ নিজেরাই পরিষ্কার করতে বলা হয়, যা ত্রুটি-প্রবণ হতে পারে। গোপনীয়তা এবং আইপি আইনজীবীরা উদ্বিগ্ন যে এই "গোপনীয় জিনিসপত্র সরান" নির্দেশটি বাস্তব কর্পোরেট উপকরণের জন্য খুব অস্পষ্ট।.
বীমা ক্ষেত্রে "এজেন্টিক এআই"-তে অ্যানথ্রপিকের সাথে অ্যালিয়ানজের অংশীদারিত্বের তাৎপর্য কী?
অ্যালিয়ানজ এবং অ্যানথ্রপিক কর্মচারীদের উৎপাদনশীলতা, এজেন্টিক এআই ব্যবহার করে অপারেশনাল অটোমেশন এবং ডিজাইন অনুসারে সম্মতির উপর দৃষ্টি নিবদ্ধ করে একটি বিশ্বব্যাপী অংশীদারিত্ব বর্ণনা করেছেন। বীমা কর্মপ্রবাহ জটিল এবং কঠোরভাবে নিয়ন্ত্রিত, তাই "এজেন্টিক" প্রায়শই জবাবদিহিতা হারানো ছাড়াই বহু-পদক্ষেপ প্রক্রিয়া স্বয়ংক্রিয়করণ বোঝায়। অডিট ট্রেইল এবং "রসিদ রাখা" এর উপর জোর দেওয়া একটি বাস্তব বাস্তবতা প্রতিফলিত করে: নিয়ন্ত্রিত শিল্পগুলিতে অটোমেশন কেবল তখনই স্কেল হয় যখন এটি পরিদর্শনযোগ্য এবং প্রতিরক্ষাযোগ্য থাকে।.