জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব কী?

সংক্ষিপ্ত উত্তর: জেনারেটিভ এআই ব্যবহারকারী ডেভেলপাররা শুধুমাত্র মডেলের আউটপুটের জন্য নয়, বরং পুরো সিস্টেমের জন্যই দায়ী। যখন এআই সিদ্ধান্ত, কোড, গোপনীয়তা বা ব্যবহারকারীর বিশ্বাসকে প্রভাবিত করে, তখন তাদের অবশ্যই নিরাপদ অ্যাপ্লিকেশন বেছে নিতে হবে, ফলাফল যাচাই করতে হবে, ডেটা সুরক্ষিত রাখতে হবে, ক্ষতি কমাতে হবে এবং নিশ্চিত করতে হবে যেন মানুষ পর্যালোচনা, বাতিল ও ভুল সংশোধন করতে পারে।

মূল বিষয়গুলি:

যাচাইকরণ : উৎস, পরীক্ষা বা মানুষের পর্যালোচনার মাধ্যমে নিশ্চিত না হওয়া পর্যন্ত পরিমার্জিত আউটপুটগুলিকে অবিশ্বস্ত হিসেবে গণ্য করুন।

ডেটা সুরক্ষা : তাৎক্ষণিক ডেটা হ্রাস করুন, শনাক্তকারী তথ্য মুছে ফেলুন এবং লগ, অ্যাক্সেস নিয়ন্ত্রণ ও বিক্রেতাদের সুরক্ষিত করুন।

ন্যায্যতা : গতানুগতিক ধারণা এবং ব্যর্থতার অসম ধরণগুলো শনাক্ত করতে বিভিন্ন জনগোষ্ঠী ও প্রেক্ষাপট জুড়ে পরীক্ষা করা।

স্বচ্ছতা : এআই-এর ব্যবহার স্পষ্টভাবে চিহ্নিত করুন, এর সীমাবদ্ধতা ব্যাখ্যা করুন এবং মানবিক পর্যালোচনা বা আপিলের সুযোগ দিন।

জবাবদিহিতা : লঞ্চের আগে ডেপ্লয়মেন্ট, ইনসিডেন্ট, মনিটরিং এবং রোলব্যাকের জন্য সুস্পষ্ট দায়িত্ব অর্পণ করুন।

এর পরে আপনি যে প্রবন্ধগুলি পড়তে পছন্দ করতে পারেন:

🔗 সফটওয়্যার ডেভেলপারদের জন্য সেরা এআই টুলস: শীর্ষ এআই-চালিত কোডিং সহকারী
দ্রুততর ও পরিচ্ছন্ন ডেভেলপমেন্ট ওয়ার্কফ্লোর জন্য সেরা এআই কোডিং অ্যাসিস্ট্যান্টগুলোর তুলনা করুন।.

🔗 ডেভেলপারদের উৎপাদনশীলতা বাড়াতে সেরা ১০টি এআই টুল
স্মার্ট কোডিং এবং গতির জন্য ডেভেলপার এআই টুলগুলোর ক্রমিক তালিকা।.

🔗 কেন এআই সমাজ ও বিশ্বাসের জন্য ক্ষতিকর হতে পারে
বাস্তব জগতের ক্ষতিগুলো ব্যাখ্যা করে: পক্ষপাত, গোপনীয়তা, চাকরি এবং ভুল তথ্যের ঝুঁকি।.

🔗 গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণের ক্ষেত্রে কৃত্রিম বুদ্ধিমত্তা কি সীমা অতিক্রম করে ফেলেছে?
কখন এআই সীমা লঙ্ঘন করে তা সংজ্ঞায়িত করে: নজরদারি, ডিপফেক, প্ররোচনা, সম্মতি ছাড়া ব্যবহার।.

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব কেন মানুষের ধারণার চেয়েও বেশি গুরুত্বপূর্ণ

অনেক সফটওয়্যার বাগই বিরক্তিকর। কোনো বাটন কাজ করে না। কোনো পেজ ধীরে লোড হয়। কোনো কিছু ক্র্যাশ করলে সবাই হতাশ হয়ে পড়ে।.

জেনারেটিভ এআই-এর সমস্যাগুলো ভিন্ন ধরনের হতে পারে। সেগুলো সূক্ষ্মও হতে পারে।.

একটি মডেল ভুল হওয়া সত্ত্বেও আত্মবিশ্বাসী শোনাতে পারে। NIST GenAI প্রোফাইল এটি কোনো সুস্পষ্ট সতর্ক সংকেত ছাড়াই পক্ষপাতিত্ব পুনরুৎপাদন করতে পারে। NIST GenAI প্রোফাইল অসতর্কভাবে ব্যবহার করা হলে এটি সংবেদনশীল তথ্য ফাঁস করতে পারে। LLM আবেদনের জন্য OWASP শীর্ষ ১০ জেনারেটিভ এআই-এর জন্য ICO-এর আটটি প্রশ্ন এটি এমন কোড তৈরি করতে পারে যা কাজ করে – যতক্ষণ না এটি প্রোডাকশনে গিয়ে কোনো অত্যন্ত বিব্রতকর উপায়ে ব্যর্থ হয়। LLM আবেদনের জন্য OWASP শীর্ষ ১০ অনেকটা এমন একজন অত্যন্ত উৎসাহী ইন্টার্নকে নিয়োগ দেওয়ার মতো, যে কখনো ঘুমায় না এবং সময়ে সময়ে অবিশ্বাস্য আত্মবিশ্বাসের সাথে মনগড়া তথ্য তৈরি করে।

এই কারণেই জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব সাধারণ বাস্তবায়নের চেয়েও বড়। ডেভেলপাররা এখন আর শুধু লজিক সিস্টেম তৈরি করছেন না। তাঁরা অস্পষ্ট সীমারেখা, অপ্রত্যাশিত ফলাফল এবং বাস্তব সামাজিক পরিণতি সহ সম্ভাবনামূলক সিস্টেম তৈরি করছেন। NIST AI RMF

তার মানে দায়িত্বের মধ্যে অন্তর্ভুক্ত রয়েছে:

• NIST AI RMF মডেলের সীমাবদ্ধতা বোঝা

• ব্যবহারকারীর গোপনীয়তা রক্ষা করা, এআই এবং ডেটা সুরক্ষা বিষয়ে আইসিও-র নির্দেশিকা

• ক্ষতিকারক আউটপুট হ্রাস করা NIST GenAI প্রোফাইল

• বিশ্বাস স্থাপনের আগে নির্ভুলতা যাচাই করা হচ্ছে NIST GenAI প্রোফাইল

• মানুষের ভূমিকা স্পষ্ট করা ওইসিডি এআই নীতিমালা

• এআই ব্যর্থ হলে বিকল্প পথের নকশা তৈরি করা, ওইসিডি এআই নীতিমালা, এনসিএসসি নিরাপদ এআই নির্দেশিকা

• সিস্টেমটিকে স্পষ্টভাবে নথিভুক্ত করা ওইসিডি এআই নীতিমালা

আপনি তো জানেনই, কোনো টুল যখন জাদুকরী মনে হয়, তখন মানুষ সেটা নিয়ে প্রশ্ন করা বন্ধ করে দেয়। ডেভেলপারদের এতটা নিশ্চিন্ত থাকা চলে না।.

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের একটি ভালো সংস্করণ কী? 🛠️

দায়িত্বশীলতার একটি ভালো রূপ লোকদেখানো নয়। এটি কেবল নিচে একটি দায়মুক্তির ঘোষণা জুড়ে দিয়ে তাকেই নৈতিকতা বলে চালিয়ে দেওয়া নয়। এটি নকশার সিদ্ধান্ত, পরীক্ষার অভ্যাস এবং পণ্যের আচরণে প্রতিফলিত হয়।.

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের একটি বলিষ্ঠ রূপ সাধারণত দেখতে এইরকম হয়:

• ইচ্ছাকৃত ব্যবহার NIST AI RMF

  • এআই-কে একটি বাস্তব সমস্যার সমাধানে ব্যবহার করা হচ্ছে, শুধু ফ্যাশনেবল শোনাচ্ছে বলে পণ্যে জোর করে ঢুকিয়ে দেওয়া হচ্ছে না।.

• মানব তত্ত্বাবধান ওইসিডি এআই নীতিমালা

  • ব্যবহারকারীরা আউটপুট পর্যালোচনা, সংশোধন, অগ্রাহ্য বা প্রত্যাখ্যান করতে পারেন।.

• ডিজাইন দ্বারা নিরাপত্তা এনসিএসসি সুরক্ষিত এআই নির্দেশিকা

  • ঝুঁকি নিয়ন্ত্রণের ব্যবস্থা শুরুতেই তৈরি করা হয়, পরে জোড়াতালি দিয়ে লাগানো হয় না।.

• স্বচ্ছতা ওইসিডি এআই নীতিমালা ইউরোপীয় কমিশন এআই আইনের সংক্ষিপ্ত বিবরণ

  • ব্যবহারকারীরা বুঝতে পারেন কখন কোনো কন্টেন্ট এআই দ্বারা তৈরি বা এআই-এর সহায়তায় নির্মিত।.

• ডেটা কেয়ার আইসিও-র আটটি প্রশ্ন

  • সংবেদনশীল তথ্য সতর্কতার সাথে ব্যবহার করা হয় এবং এর প্রবেশাধিকার সীমিত।.

• ন্যায্যতা যাচাই, NIST GenAI প্রোফাইল , AI এবং ডেটা সুরক্ষা বিষয়ে ICO-এর নির্দেশিকা

  • সিস্টেমটিকে পক্ষপাত, অসম কর্মক্ষমতা এবং ক্ষতিকর প্যাটার্নের জন্য পরীক্ষা করা হয়।.

• চলমান পর্যবেক্ষণ NIST AI RMF NCSC নিরাপদ AI নির্দেশিকা

  • উৎক্ষেপণই শেষ সীমা নয়। এটা বরং শুরুর বাঁশির মতো।.

যদি এটা অনেক বেশি মনে হয়, তাহলে বলতে হয়... আসলেই তাই। কিন্তু যখন আপনি এমন প্রযুক্তি নিয়ে কাজ করেন যা বৃহৎ পরিসরে সিদ্ধান্ত, বিশ্বাস এবং আচরণকে প্রভাবিত করতে পারে, তখন এটাই বাস্তবতা। ওইসিডি এআই নীতিমালা

তুলনামূলক সারণী - জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের মূল দায়িত্ব এক নজরে 📋

দায়িত্বের ক্ষেত্র	এটি কাদের প্রভাবিত করে	দৈনিক ডেভেলপার অনুশীলন	কেন এটা গুরুত্বপূর্ণ
নির্ভুলতা এবং যাচাইকরণ	ব্যবহারকারী, দল, গ্রাহক	আউটপুট পর্যালোচনা করুন, যাচাইকরণ স্তর যোগ করুন, প্রান্তিক পরিস্থিতি পরীক্ষা করুন।	এআই সাবলীল হয়েও মারাত্মকভাবে ভুল করতে পারে - যা একটি অদ্ভুত সংমিশ্রণ। NIST GenAI প্রোফাইল
গোপনীয়তা সুরক্ষা	ব্যবহারকারী, ক্লায়েন্ট, অভ্যন্তরীণ কর্মী	সংবেদনশীল ডেটার ব্যবহার কমান, প্রম্পট মুছে ফেলুন, লগ নিয়ন্ত্রণ করুন	ব্যক্তিগত তথ্য একবার ফাঁস হলে, আর রক্ষা নেই 😬 জেনারেটিভ এআই-এর জন্য ICO-এর আটটি প্রশ্ন LLM আবেদনের জন্য OWASP-এর সেরা ১০
পক্ষপাত এবং ন্যায্যতা	স্বল্প প্রতিনিধিত্বকারী গোষ্ঠী, সকল ব্যবহারকারী আসলে	আউটপুট নিরীক্ষা করুন, বিভিন্ন ইনপুট পরীক্ষা করুন, সুরক্ষা ব্যবস্থা সমন্বয় করুন	ক্ষতি সবসময় সশব্দে হয় না - কখনও কখনও তা হয় সুপরিকল্পিত এবং নীরবে। NIST GenAI প্রোফাইল, AI এবং ডেটা সুরক্ষা বিষয়ে ICO-এর নির্দেশিকা।
নিরাপত্তা	কোম্পানির সিস্টেম, ব্যবহারকারী	মডেলের প্রবেশাধিকার সীমিত করুন, প্রম্পট ইনজেকশন থেকে সুরক্ষা দিন, ঝুঁকিপূর্ণ কার্যকলাপ স্যান্ডবক্স করুন।	একটি চতুর কৌশল দ্রুত বিশ্বাস নষ্ট করে দিতে পারে। এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০, কৃত্রিম বুদ্ধিমত্তা ও সাইবার নিরাপত্তা বিষয়ে NCSC।
স্বচ্ছতা	শেষ ব্যবহারকারী, নিয়ন্ত্রক, সহায়তা দল	এআই-এর আচরণ স্পষ্টভাবে চিহ্নিত করুন, সীমাবদ্ধতা ব্যাখ্যা করুন, ব্যবহার নথিভুক্ত করুন	মেশিন কখন সাহায্য করছে তা মানুষের জানার অধিকার আছে; এআই-সৃষ্ট বিষয়বস্তুর চিহ্নিতকরণ ও লেবেলিং সংক্রান্ত ওইসিডি এআই নীতিমালা
জবাবদিহিতা	প্রোডাক্ট ওনার, লিগ্যাল, ডেভ টিম	মালিকানা, ঘটনা পরিচালনা এবং ঊর্ধ্বতন কর্তৃপক্ষের কাছে বিষয়টি জানানোর পথ নির্ধারণ করুন	“এআই এটা করেছে” কোনো পরিণত উত্তর নয় - ওইসিডি এআই নীতিমালা
নির্ভরযোগ্যতা	পণ্যটি স্পর্শকারী প্রত্যেকে	ব্যর্থতা পর্যবেক্ষণ করুন, নির্ভরযোগ্যতার সীমা নির্ধারণ করুন, বিকল্প যুক্তি তৈরি করুন	মডেলগুলো বিচ্যুত হয়, অপ্রত্যাশিতভাবে ব্যর্থ হয়, এবং সময়ে সময়ে একটি নাটকীয় ছোটখাটো ঘটনা ঘটে NIST AI RMF NCSC নিরাপদ AI নির্দেশিকা
ব্যবহারকারীর সুস্থতা	বিশেষ করে দুর্বল ব্যবহারকারীদের জন্য	কারসাজিমূলক ডিজাইন পরিহার করুন, ক্ষতিকর আউটপুট সীমিত করুন, উচ্চ-ঝুঁকিপূর্ণ ব্যবহারের ক্ষেত্রগুলো পর্যালোচনা করুন।	কোনো কিছু তৈরি করা যায় বলেই যে তা করা উচিত, এমনটা নয়। ওইসিডি এআই নীতিমালা, এনআইএসটি এআই, আরএমএফ

টেবিলটা সামান্য এবড়োখেবড়ো, ঠিক আছে, কিন্তু সেটা আলোচনার বিষয়ের সঙ্গেই মানানসই। প্রকৃত দায়িত্বও তো এবড়োখেবড়ো।.

দায়িত্ব প্রথম নির্দেশনার আগেই শুরু হয় - সঠিক ব্যবহারের ক্ষেত্রটি বেছে নেওয়া 🎯

ডেভেলপারদের অন্যতম প্রধান দায়িত্ব হলো জেনারেটিভ এআই আদৌ ব্যবহার করা উচিত কিনা, । এনআইএসটি এআই আরএমএফ

কথাটা শুনতে খুব সাধারণ মনে হলেও, প্রায়শই এটি এড়িয়ে যাওয়া হয়। টিমগুলো একটি মডেল দেখে উত্তেজিত হয়ে ওঠে এবং সেটিকে এমন সব ওয়ার্কফ্লোতে জোর করে ঢোকাতে শুরু করে, যা কিনা নিয়ম, সার্চ বা সাধারণ সফটওয়্যার লজিকের মাধ্যমে আরও ভালোভাবে সামলানো যেত। সব সমস্যার জন্য ল্যাঙ্গুয়েজ মডেলের প্রয়োজন হয় না। কিছু সমস্যার জন্য প্রয়োজন একটি ডাটাবেস এবং একটি শান্ত বিকেল।.

নির্মাণের আগে ডেভেলপারদের জিজ্ঞাসা করা উচিত:

• কাজটি কি উন্মুক্ত নাকি সুনির্দিষ্ট?

• ভুল আউটপুট কি কোনো ক্ষতি করতে পারে?

• ব্যবহারকারীদের কি সৃজনশীলতা, পূর্বাভাস, সারসংক্ষেপ, স্বয়ংক্রিয়করণ - নাকি শুধু গতি প্রয়োজন?

• মানুষ কি আউটপুটকে অতিরিক্ত বিশ্বাস করবে? NIST GenAI প্রোফাইল

• একজন মানুষ কি বাস্তবসম্মতভাবে ফলাফল পর্যালোচনা করতে পারে? ওইসিডি এআই নীতিমালা

• মডেলটি ভুল হলে কী হয়? ওইসিডি এআই নীতিমালা

একজন দায়িত্বশীল ডেভেলপার শুধু এই প্রশ্ন করেন না যে, “আমরা কি এটা তৈরি করতে পারি?” বরং তিনি জিজ্ঞাসা করেন, “এটা কি এইভাবে তৈরি করা উচিত?” NIST AI RMF

শুধুমাত্র ওই প্রশ্নটিই অনেক চটকদার অর্থহীন কথাবার্তা প্রতিরোধ করে।.

নির্ভুলতা একটি দায়িত্ব, কোনো বাড়তি সুবিধা নয় ✅

একটা কথা পরিষ্কার করে বলা যাক - জেনারেটিভ এআই-এর অন্যতম বড় একটি ফাঁদ হলো বাগ্মিতাকে সত্য বলে ভুল করা। মডেলগুলো প্রায়শই এমন উত্তর তৈরি করে যা শুনতে পরিশীলিত, সুগঠিত এবং অত্যন্ত বিশ্বাসযোগ্য মনে হয়। যা শুনতে চমৎকার, যতক্ষণ না এর ভেতরের বিষয়বস্তু আত্মবিশ্বাসের মোড়কে মোড়া অর্থহীন কথা হয়। এনআইএসটি জেনএআই প্রোফাইল

সুতরাং, জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের মধ্যে যাচাইযোগ্য কাঠামো তৈরি করাও অন্তর্ভুক্ত।

তার মানে:

• যেখানে সম্ভব পুনরুদ্ধার বা গ্রাউন্ডিং ব্যবহার করে NIST GenAI প্রোফাইল

• মনগড়া বিষয়বস্তুকে প্রমাণিত তথ্য থেকে পৃথক করা ওইসিডি এআই নীতিমালা

• সাবধানে আত্মবিশ্বাসের থ্রেশহোল্ড যোগ করা NIST AI RMF

• উচ্চ-ঝুঁকিপূর্ণ আউটপুটের জন্য পর্যালোচনা কর্মপ্রবাহ তৈরি করা ওইসিডি এআই নীতিমালা

• গুরুত্বপূর্ণ পরিস্থিতিতে মডেলটিকে তাৎক্ষণিক ব্যবস্থা গ্রহণ থেকে বিরত রাখা NIST GenAI প্রোফাইল

• সিস্টেমকে বিকল বা বিভ্রান্ত করার চেষ্টাকারী টেস্টিং প্রম্পটসমূহ; এলএলএম অ্যাপ্লিকেশনের জন্য OWASP-এর সেরা ১০টি

নিম্নলিখিত ক্ষেত্রগুলিতে এটি অত্যন্ত গুরুত্বপূর্ণ:

• স্বাস্থ্যসেবা

• অর্থায়ন

• আইনি কার্যপ্রবাহ

• শিক্ষা

• গ্রাহক সহায়তা

• এন্টারপ্রাইজ অটোমেশন

• কোড জেনারেশন

উদাহরণস্বরূপ, জেনারেটেড কোড দেখতে পরিপাটি হলেও এর মধ্যে নিরাপত্তা ত্রুটি বা লজিকের ভুল লুকিয়ে থাকতে পারে। যে ডেভেলপার এটি অন্ধভাবে কপি করে, সে দক্ষ নয় - সে কেবল ঝুঁকিকে একটি সুন্দর আঙ্গিকে অন্যের উপর চাপিয়ে দিচ্ছে। এলএলএম অ্যাপ্লিকেশনের জন্য OWASP টপ ১০, এআই এবং সাইবার নিরাপত্তার উপর NCSC।

মডেলটি সহায়তা করতে পারে। ফলাফলের মালিকানা ডেভেলপারেরই থাকে। ওইসিডি এআই নীতিমালা

গোপনীয়তা ও তথ্যের সুষ্ঠু ব্যবস্থাপনা অনস্বীকার্য 🔐

এখান থেকেই পরিস্থিতি দ্রুত গুরুতর হয়ে ওঠে। জেনারেটিভ এআই সিস্টেমগুলো প্রায়শই প্রম্পট, লগ, কনটেক্সট উইন্ডো, মেমরি লেয়ার, অ্যানালিটিক্স এবং থার্ড-পার্টি ইনফ্রাস্ট্রাকচারের উপর নির্ভর করে। এর ফলে সংবেদনশীল ডেটা ফাঁস হওয়া, থেকে যাওয়া বা ব্যবহারকারীরা যা কখনও আশা করেননি, সেভাবে পুনরায় ব্যবহৃত হওয়ার প্রচুর সুযোগ তৈরি হয়। জেনারেটিভ এআই-এর জন্য ICO-এর আটটি প্রশ্ন, LLM অ্যাপ্লিকেশনের জন্য OWASP-এর সেরা ১০।

ডেভেলপারদের সুরক্ষার দায়িত্ব রয়েছে:

• ব্যক্তিগত তথ্য

• আর্থিক রেকর্ড

• চিকিৎসা সংক্রান্ত বিবরণ

• অভ্যন্তরীণ কোম্পানির ডেটা

• বাণিজ্যিক গোপনীয়তা

• প্রমাণীকরণ টোকেন

• ক্লায়েন্ট যোগাযোগ

দায়িত্বশীল অনুশীলনের মধ্যে অন্তর্ভুক্ত রয়েছে:

• মডেলে প্রবেশ করা ডেটার পরিমাণ কমানো: জেনারেটিভ এআই-এর জন্য আইসিও-র আটটি প্রশ্ন

• শনাক্তকারীগুলিকে আড়াল করা বা অপসারণ করা NIST GenAI প্রোফাইল

• লগ ধারণক্ষমতা সীমিতকরণ: এআই এবং ডেটা সুরক্ষা বিষয়ে আইসিও-র নির্দেশিকা

• কারা প্রম্পট এবং আউটপুট অ্যাক্সেস করতে পারবে তা নিয়ন্ত্রণ করা: এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০

• বিক্রেতার সেটিংস সাবধানে পর্যালোচনা করা এনসিএসসি নিরাপদ এআই নির্দেশিকা

• উচ্চ-ঝুঁকিপূর্ণ ওয়ার্কফ্লো বিচ্ছিন্নকরণ এনসিএসসি নিরাপদ এআই নির্দেশিকা

• ব্যবহারকারীদের কাছে গোপনীয়তার আচরণ দৃশ্যমান করা: জেনারেটিভ এআই-এর জন্য আইসিও-র আটটি প্রশ্ন

এটি সেইসব ক্ষেত্রগুলোর মধ্যে একটি, যেখানে “আমরা বিষয়টি নিয়ে ভাবতে ভুলে গিয়েছিলাম” বলাটা কোনো সামান্য ভুল নয়। এটি বিশ্বাসভঙ্গকারী একটি ব্যর্থতা।.

আর বিশ্বাস একবার ভাঙলে, তা ঝরে পড়া কাঁচের মতো ছড়িয়ে পড়ে। হয়তো উপমাটা খুব একটা পরিচ্ছন্ন নয়, কিন্তু আপনি ব্যাপারটা বুঝতে পারছেন।.

পক্ষপাত, ন্যায্যতা এবং প্রতিনিধিত্ব - নীরবে পালন করা কিছু দায়িত্ব ⚖️

জেনারেটিভ এআই-এর ক্ষেত্রে পক্ষপাতিত্ব খুব কমই কাল্পনিক খলনায়কের মতো হয়। এটি সাধারণত তার চেয়েও বেশি অধরা। একটি মডেল সুস্পষ্ট কোনো সতর্কবার্তা না দিয়েই গতানুগতিক চাকরির বিবরণ, অসম মডারেশন সিদ্ধান্ত, একপেশে সুপারিশ বা সাংস্কৃতিকভাবে সংকীর্ণ ধারণা তৈরি করতে পারে। এনআইএসটি জেনএআই প্রোফাইল

এই কারণেই জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের মধ্যে সক্রিয়ভাবে ন্যায্যতার কাজ করা অন্তর্ভুক্ত।

ডেভেলপারদের উচিত:

• বিভিন্ন জনসংখ্যা ও প্রেক্ষাপট থেকে পরীক্ষার প্রশ্ন NIST GenAI প্রোফাইল

• গতানুগতিক ধারণা এবং বর্জনের জন্য NIST GenAI প্রোফাইলের

• মূল্যায়নের সময় বিভিন্ন দৃষ্টিকোণ অন্তর্ভুক্ত করুন NIST AI RMF

• অসম ব্যর্থতার ধরণগুলির জন্য নজর রাখুন NIST GenAI প্রোফাইল

• একটি ভাষাশৈলী বা সাংস্কৃতিক রীতি সবার জন্য প্রযোজ্য, এমনটা ধরে নেওয়া পরিহার করুন। এআই এবং ডেটা সুরক্ষা বিষয়ে আইসিও-র নির্দেশিকা।

• ক্ষতিকর আউটপুটের জন্য রিপোর্টিং চ্যানেল তৈরি করুন NIST AI RMF

একটি সিস্টেম সামগ্রিকভাবে ভালোভাবে কাজ করছে বলে মনে হলেও, এটি ধারাবাহিকভাবে কিছু ব্যবহারকারীকে অন্যদের তুলনায় খারাপ পরিষেবা দিতে পারে। শুধুমাত্র ড্যাশবোর্ডে গড় পারফরম্যান্স দেখতে ভালো লাগছে বলেই এটি গ্রহণযোগ্য নয়। এআই এবং ডেটা সুরক্ষার উপর আইসিও নির্দেশিকা, এনআইএসটি জেনএআই প্রোফাইল।

এবং হ্যাঁ, ন্যায্যতা একটি পরিপাটি চেকলিস্টের চেয়েও কঠিন। এর মধ্যে বিচার-বিবেচনা থাকে। প্রেক্ষাপট থাকে। আপস করতে হয়। কিছুটা অস্বস্তিও থাকে। কিন্তু তা দায়িত্বকে দূর করে না - বরং তা নিশ্চিত করে। এআই এবং ডেটা সুরক্ষা বিষয়ে আইসিও-র নির্দেশনা।

নিরাপত্তা এখন আংশিক তাৎক্ষণিক নকশা এবং আংশিক প্রকৌশলগত শৃঙ্খলা 🧱

জেনারেটিভ এআই নিরাপত্তা এক স্বতন্ত্র ও বিশেষ বিষয়। অবশ্যই, প্রচলিত অ্যাপ নিরাপত্তা এখনও গুরুত্বপূর্ণ, কিন্তু এআই সিস্টেমগুলো কিছু অস্বাভাবিক আক্রমণের ক্ষেত্র তৈরি করে: প্রম্পট ইনজেকশন, পরোক্ষ প্রম্পট ম্যানিপুলেশন, অনিরাপদ টুল ব্যবহার, কনটেক্সটের মাধ্যমে ডেটা এক্সফিলট্রেশন, এবং স্বয়ংক্রিয় ওয়ার্কফ্লোর মাধ্যমে মডেলের অপব্যবহার। এলএলএম অ্যাপ্লিকেশনের জন্য OWASP টপ ১০, এআই এবং সাইবার নিরাপত্তার উপর NCSC।

ডেভেলপাররা শুধু ইন্টারফেস নয়, সম্পূর্ণ সিস্টেম সুরক্ষিত করার জন্য দায়ী। এনসিএসসি নিরাপদ এআই নির্দেশিকা

এখানকার প্রধান দায়িত্বগুলো হলো:

• অবিশ্বস্ত ইনপুট পরিমার্জন: এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০

• মডেলটি কোন টুলগুলো কল করতে পারবে তা সীমিত করা হচ্ছে এলএলএম অ্যাপ্লিকেশনের জন্য OWASP শীর্ষ ১০

• ফাইল এবং নেটওয়ার্ক অ্যাক্সেস সীমাবদ্ধ করা এনসিএসসি নিরাপদ এআই নির্দেশিকা

• অনুমতিগুলি স্পষ্টভাবে পৃথক করা এনসিএসসি নিরাপদ এআই নির্দেশিকা

• অপব্যবহারের ধরণ পর্যবেক্ষণ এনসিএসসি নিরাপদ এআই নির্দেশিকা

• ব্যয়বহুল বা ঝুঁকিপূর্ণ পদক্ষেপের হার সীমিতকরণ LLM আবেদনের জন্য OWASP শীর্ষ ১০

• প্রতিপক্ষীয় প্রম্পট পরীক্ষা করা: এলএলএম আবেদনের জন্য OWASP শীর্ষ ১০

• নির্দেশাবলীর মধ্যে বিরোধ দেখা দিলে নিরাপদ বিকল্প ব্যবস্থা তৈরি করা OECD AI নীতিমালা

একটি অস্বস্তিকর সত্য হলো, ব্যবহারকারী এবং আক্রমণকারীরা এমন কিছু করার চেষ্টা করবেই যা ডেভেলপাররা আশা করেনি। কেউ কৌতূহলবশত, কেউ বিদ্বেষবশত, আবার কেউবা রাত ২টোর সময় ভুল কিছুতে ক্লিক করার কারণে। এমনটা হয়েই থাকে।.

জেনারেটিভ এআই-এর নিরাপত্তা দেওয়াল তৈরির মতো নয়, বরং এমন একজন বাচাল দ্বাররক্ষীকে সামলানোর মতো, যিনি মাঝে মাঝে কথার মারপ্যাঁচে বোকা বনে যান।.

চাকচিক্যপূর্ণ ইউএক্স-এর চেয়ে স্বচ্ছতা এবং ব্যবহারকারীর সম্মতি বেশি গুরুত্বপূর্ণ 🗣️

যখন ব্যবহারকারীরা এআই-এর সাথে যোগাযোগ করে, তখন তাদের এটি সম্পর্কে জানা উচিত। ওইসিডি এআই নীতিমালার কার্যপ্রণালী বিধি।

অস্পষ্টভাবে নয়। নানা পরিভাষার আড়ালে নয়। স্পষ্টভাবে।.

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের একটি মূল অংশ হলো ব্যবহারকারীরা যেন বুঝতে পারেন:

• যখন এআই ব্যবহার করা হচ্ছে ওইসিডি এআই নীতিমালা

• এআই কী করতে পারে এবং কী করতে পারে না ওইসিডি এআই নীতিমালা

• আউটপুটগুলি মানুষের দ্বারা পর্যালোচনা করা হয় কিনা OECD AI নীতিমালা

• তাদের ডেটা কীভাবে প্রক্রিয়াজাত করা হয় জেনারেটিভ এআই নিয়ে আইসিও-র আটটি প্রশ্ন

• NIST AI RMF-এর প্রতি তাদের কী মাত্রার আস্থা থাকা উচিত

• কিভাবে সমস্যা রিপোর্ট করতে হয় বা সিদ্ধান্তের বিরুদ্ধে আপিল করতে হয় ওইসিডি এআই নীতিমালা এনআইএসটি এআই আরএমএফ

স্বচ্ছতার অর্থ ব্যবহারকারীদের ভয় দেখানো নয়। এর অর্থ হলো তাঁদের সম্মান করা।.

ভালো স্বচ্ছতার মধ্যে নিম্নলিখিত বিষয়গুলো অন্তর্ভুক্ত থাকতে পারে:

• এআই-সৃষ্ট বা এআই-সহায়তাযুক্ত লেবেল এবং এআই-সৃষ্ট বিষয়বস্তুর চিহ্নিতকরণ ও লেবেলিং সংক্রান্ত কার্যপ্রণালী বিধি

• সহজবোধ্য ব্যাখ্যা OECD AI নীতিমালা

• প্রাসঙ্গিক ক্ষেত্রে দৃশ্যমান সম্পাদনার ইতিহাস

• এআই বৈশিষ্ট্যগুলি বন্ধ করার বিকল্পগুলি

• প্রয়োজনে মানুষের কাছে বিষয়টি হস্তান্তর করা ওইসিডি এআই নীতিমালা

• উচ্চ-ঝুঁকিপূর্ণ কাজের জন্য সংক্ষিপ্ত সতর্কবার্তা ইউরোপীয় কমিশনের এআই আইনের সংক্ষিপ্ত বিবরণ

অনেক প্রোডাক্ট টিমই চিন্তিত থাকে যে, সততার কারণে ফিচারটির আকর্ষণ কমে যাবে। হয়তো তাই। কিন্তু মিথ্যা নিশ্চয়তা আরও খারাপ। ঝুঁকি লুকিয়ে রাখা একটি মসৃণ ইন্টারফেস আসলে পরিমার্জিত বিভ্রান্তি ছাড়া আর কিছুই নয়।.

ডেভেলপাররা দায়বদ্ধ থাকেন - এমনকি যখন মডেল নিজেই “সিদ্ধান্ত” নেয় 👀

এই অংশটি অত্যন্ত গুরুত্বপূর্ণ। মডেল বিক্রেতা, মডেল কার্ড, প্রম্পট টেমপ্লেট বা মেশিন লার্নিং-এর রহস্যময় পরিবেশের উপর দায়িত্ব অর্পণ করা যায় না। ওইসিডি এআই প্রিন্সিপলস এনআইএসটি এআই আরএমএফ

ডেভেলপাররা এখনও জবাবদিহি করতে বাধ্য। ওইসিডি এআই নীতিমালা

তার মানে দলের কোনো একজনের মালিকানায় থাকা উচিত:

• মডেল নির্বাচন NIST AI RMF

• পরীক্ষার মানদণ্ড NIST GenAI প্রোফাইল

• প্রকাশের মানদণ্ড NIST GenAI প্রোফাইল

• ঘটনা প্রতিক্রিয়া এনসিএসসি নিরাপদ এআই নির্দেশিকা

• ব্যবহারকারীর অভিযোগ নিষ্পত্তি NIST AI RMF

• রোলব্যাক পদ্ধতি OECD AI নীতিমালা

• পরিবর্তন পর্যবেক্ষণ ওইসিডি এআই নীতিমালা

• ডকুমেন্টেশন ওইসিডি এআই নীতিমালা

এই ধরনের প্রশ্নগুলোর সুস্পষ্ট উত্তর থাকা উচিত:

• কে মোতায়েন অনুমোদন করে? NIST GenAI প্রোফাইল

• ক্ষতিকর আউটপুটের ঘটনাগুলো কে পর্যালোচনা করে? NIST GenAI প্রোফাইল

• কে এই ফিচারটি নিষ্ক্রিয় করতে পারবে? ওইসিডি এআই নীতিমালা

• কে পশ্চাদপসরণ পর্যবেক্ষণ করে? NIST AI RMF

• যখন কোনো কিছু ভেঙে যায় তখন ব্যবহারকারীদের সাথে কে যোগাযোগ করে? ওইসিডি এআই নীতিমালা

মালিকানা না থাকলে দায়িত্ব ধোঁয়াশার মতো মিলিয়ে যায়। সবাই ধরে নেয় যে অন্য কেউ ব্যাপারটা সামলাচ্ছে... অথচ দেখা যায়, আসলে কেউই তা করে না।.

সত্যি বলতে, এই ধারাটি এআই-এর চেয়েও পুরোনো। এআই কেবল একে আরও বিপজ্জনক করে তোলে।.

দায়িত্বশীল ডেভেলপাররা ত্রুটি সংশোধনের জন্য নির্মাণ করেন, নিখুঁত করার জন্য নয় 🔄

এই সবকিছুর মধ্যে একটি ছোট্ট মোচড় রয়েছে: দায়িত্বশীল এআই উন্নয়ন মানে এই নয় যে সিস্টেমটি নিখুঁত হবে বলে ভান করতে হবে। এর মানে হলো, এটি কোনো না কোনোভাবে ব্যর্থ হবে—এই ধারণা নিয়ে সেই বাস্তবতাকে মাথায় রেখে নকশা করা। NIST AI RMF

এর অর্থ হলো এমন পণ্য তৈরি করা যা:

• নিরীক্ষণযোগ্য ওইসিডি এআই নীতিমালা

  • সিদ্ধান্ত ও ফলাফল পরে পর্যালোচনা করা যেতে পারে।

• বাধাযোগ্য ওইসিডি এআই নীতিমালা

  • মানুষ খারাপ আচরণ থামাতে বা তা কাটিয়ে উঠতে পারে।

• পুনরুদ্ধারযোগ্য ওইসিডি এআই নীতিমালা

  • এআই আউটপুট ভুল হলে একটি বিকল্প ব্যবস্থা থাকে।

• পর্যবেক্ষণযোগ্য এনসিএসসি সুরক্ষিত এআই নির্দেশিকা এনআইএসটি এআই আরএমএফ

  • দলগুলো বিপর্যয় ঘটার আগেই ধরনগুলো চিহ্নিত করতে পারে।

• উন্নতযোগ্য NIST GenAI প্রোফাইল

  • ফিডব্যাক লুপ বিদ্যমান, এবং কেউ সেগুলো পড়ে।

পরিপক্কতা দেখতে এইরকমই হয়। চাকচিক্যময় ডেমো নয়। উত্তেজনাপূর্ণ বিপণনের লেখা নয়। আসল সিস্টেম, যেখানে থাকবে সুরক্ষা ব্যবস্থা, লগ, জবাবদিহিতা, এবং এটা স্বীকার করার মতো যথেষ্ট বিনয় যে যন্ত্রটি কোনো জাদুকর নয়। এনসিএসসি নিরাপদ এআই নির্দেশিকা, ওইসিডি এআই নীতিমালা।

কারণ এটা তা নয়। এটা একটা যন্ত্র। নিঃসন্দেহে একটি শক্তিশালী যন্ত্র। কিন্তু তবুও একটি যন্ত্রই।.

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব নিয়ে সমাপনী পর্যালোচনা 🌍

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব কী ?

যত্ন সহকারে নির্মাণ করা। সিস্টেমটি কোথায় সাহায্য করে এবং কোথায় ক্ষতি করে তা প্রশ্ন করা। গোপনীয়তা রক্ষা করা। পক্ষপাতিত্ব পরীক্ষা করা। আউটপুট যাচাই করা। কর্মপ্রবাহ সুরক্ষিত করা। ব্যবহারকারীদের সাথে স্বচ্ছ থাকা। মানুষকে অর্থপূর্ণ নিয়ন্ত্রণে রাখা। কিছু ভুল হলে জবাবদিহি করা। NIST AI RMF OECD AI Principles

কথাটা শুনতে গুরুগম্ভীর লাগতে পারে—এবং তা সত্যিই তাই। কিন্তু এটাই আবার সুচিন্তিত উন্নয়নকে অবিবেচক স্বয়ংক্রিয়তা থেকে আলাদা করে।.

জেনারেটিভ এআই ব্যবহারকারী সেরা ডেভেলপাররা তারা নন যারা মডেলকে দিয়ে সবচেয়ে বেশি কৌশল করান। বরং তারাই সেরা, যারা সেই কৌশলগুলোর পরিণতি বোঝেন এবং সেই অনুযায়ী ডিজাইন করেন। তারা জানেন যে গতি গুরুত্বপূর্ণ, কিন্তু বিশ্বাসই হলো আসল পণ্য। অদ্ভুতভাবে, সেই পুরোনো ধারণাটি এখনও টিকে আছে। NIST AI RMF

শেষ পর্যন্ত, দায়িত্বশীলতা উদ্ভাবনের পথে কোনো বাধা নয়। বরং এটিই উদ্ভাবনকে একটি ব্যয়বহুল, বিশৃঙ্খল ও অগোছালো বিস্তারে পরিণত হওয়া থেকে রক্ষা করে, যার থাকে একটি পরিশীলিত ইন্টারফেস কিন্তু আত্মবিশ্বাসের অভাব 😬✨

আর হয়তো এটাই এর সবচেয়ে সরল রূপ।.

সাহসের সাথে নির্মাণ করুন, অবশ্যই - কিন্তু এমনভাবে নির্মাণ করুন যেন মানুষ এর দ্বারা প্রভাবিত হতে পারে, কারণ তারা সত্যিই প্রভাবিত হয়। ওইসিডি এআই নীতিমালা

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

বাস্তবে জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব কী?

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব শুধু দ্রুত ফিচার সরবরাহ করার মধ্যেই সীমাবদ্ধ নয়। এর মধ্যে রয়েছে সঠিক ব্যবহারের ক্ষেত্র (use case) নির্বাচন করা, আউটপুট পরীক্ষা করা, গোপনীয়তা রক্ষা করা, ক্ষতিকর আচরণ হ্রাস করা এবং সিস্টেমটিকে ব্যবহারকারীদের কাছে বোধগম্য করে তোলা। বাস্তবে, টুলটি কীভাবে ডিজাইন করা হবে, পর্যবেক্ষণ করা হবে, সংশোধন করা হবে এবং ব্যর্থ হলে কীভাবে পরিচালনা করা হবে, তার জন্য ডেভেলপাররাই দায়ী থাকেন।.

সাধারণ সফটওয়্যারের তুলনায় জেনারেটিভ এআই-এর জন্য কেন ডেভেলপারের বেশি দায়িত্ব প্রয়োজন?

প্রচলিত বাগগুলো প্রায়শই সুস্পষ্ট হয়, কিন্তু জেনারেটিভ এআই-এর ব্যর্থতাগুলো শুনতে নিখুঁত মনে হলেও সেগুলো ভুল, পক্ষপাতদুষ্ট বা ঝুঁকিপূর্ণ হতে পারে। এর ফলে সমস্যাগুলো চিহ্নিত করা কঠিন হয়ে পড়ে এবং ব্যবহারকারীরা ভুলবশত সেটিকে বিশ্বাস করে ফেলেন। ডেভেলপাররা সম্ভাবনামূলক সিস্টেম নিয়ে কাজ করেন, তাই এর দায়িত্বের মধ্যে রয়েছে অনিশ্চয়তা সামলানো, ক্ষতি সীমিত করা এবং চালুর আগেই অপ্রত্যাশিত ফলাফলের জন্য প্রস্তুতি নেওয়া।.

ডেভেলপাররা কীভাবে বুঝবেন কখন জেনারেটিভ এআই ব্যবহার করা উচিত নয়?

একটি সাধারণ সূচনা বিন্দু হলো এই প্রশ্ন করা যে, কাজটি কি উন্মুক্ত প্রকৃতির, নাকি এটি নিয়ম, অনুসন্ধান বা সাধারণ সফটওয়্যার লজিকের মাধ্যমে আরও ভালোভাবে সম্পন্ন করা যায়। ডেভেলপারদের এটাও বিবেচনা করা উচিত যে, একটি ভুল উত্তর কতটা ক্ষতি করতে পারে এবং কোনো মানুষ বাস্তবিকভাবে ফলাফলগুলো পর্যালোচনা করতে পারবে কি না। দায়িত্বশীল ব্যবহারের অর্থ কখনও কখনও জেনারেটিভ এআই একেবারেই ব্যবহার না করার সিদ্ধান্ত নেওয়া।.

ডেভেলপাররা কীভাবে জেনারেটিভ এআই সিস্টেমে হ্যালুসিনেশন এবং ভুল উত্তর কমাতে পারেন?

নির্ভুলতা অনুমান না করে, নকশার মধ্যেই অন্তর্ভুক্ত করতে হবে। অনেক পাইপলাইনে এর অর্থ হলো, আউটপুটকে নির্ভরযোগ্য উৎসের উপর ভিত্তি করে তৈরি করা, তৈরি হওয়া টেক্সটকে যাচাইকৃত তথ্য থেকে আলাদা রাখা এবং উচ্চ-ঝুঁকিপূর্ণ কাজের জন্য রিভিউ ওয়ার্কফ্লো ব্যবহার করা। ডেভেলপারদের এমন প্রম্পটগুলোও পরীক্ষা করা উচিত যা সিস্টেমকে বিভ্রান্ত বা বিপথে চালিত করার জন্য তৈরি করা হয়েছে, বিশেষ করে কোড, সাপোর্ট, ফিনান্স, শিক্ষা এবং স্বাস্থ্যসেবার মতো ক্ষেত্রে।.

গোপনীয়তা এবং সংবেদনশীল তথ্যের বিষয়ে জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্ব কী?

জেনারেটিভ এআই ব্যবহারকারী ডেভেলপারদের দায়িত্বের মধ্যে রয়েছে মডেলে প্রবেশ করা ডেটার পরিমাণ কমানো এবং প্রম্পট, লগ ও আউটপুটকে সংবেদনশীল হিসেবে বিবেচনা করা। ডেভেলপারদের উচিত যেখানে সম্ভব শনাক্তকারী চিহ্ন মুছে ফেলা, ডেটা সংরক্ষণের সময় সীমিত করা, অ্যাক্সেস নিয়ন্ত্রণ করা এবং ভেন্ডরের সেটিংস সতর্কতার সাথে পর্যালোচনা করা। ব্যবহারকারীদেরও তাদের ডেটা কীভাবে ব্যবহার করা হচ্ছে তা বুঝতে পারা উচিত, যাতে ঝুঁকিগুলো পরে তাদের নজরে না আসে।.

জেনারেটিভ এআই আউটপুটে ডেভেলপারদের পক্ষপাত এবং ন্যায্যতা কীভাবে সামলানো উচিত?

পক্ষপাতমূলক কাজের জন্য সক্রিয় মূল্যায়ন প্রয়োজন, অনুমান নয়। একটি বাস্তবসম্মত পদ্ধতি হলো বিভিন্ন জনগোষ্ঠী, ভাষা এবং প্রেক্ষাপটে প্রশ্নগুলো পরীক্ষা করা, এবং তারপর গতানুগতিক ধারণা, বর্জন বা অসম ব্যর্থতার ধরণ আছে কিনা তা দেখতে ফলাফলগুলো পর্যালোচনা করা। ডেভেলপারদের ব্যবহারকারী বা দলগুলোর জন্য ক্ষতিকর আচরণের রিপোর্ট করার উপায়ও তৈরি করা উচিত, কারণ একটি সিস্টেম সামগ্রিকভাবে শক্তিশালী মনে হলেও নির্দিষ্ট কিছু গোষ্ঠীর ক্ষেত্রে ধারাবাহিকভাবে ব্যর্থ হতে পারে।.

জেনারেটিভ এআই নিয়ে ডেভেলপারদের কী কী নিরাপত্তা ঝুঁকি সম্পর্কে ভাবতে হবে?

জেনারেটিভ এআই নতুন ধরনের আক্রমণের সুযোগ তৈরি করে, যার মধ্যে রয়েছে প্রম্পট ইনজেকশন, অনিরাপদ টুল ব্যবহার, কনটেক্সটের মাধ্যমে ডেটা ফাঁস এবং স্বয়ংক্রিয় কার্যক্রমের অপব্যবহার। ডেভেলপারদের উচিত অবিশ্বস্ত ইনপুটকে পরিশুদ্ধ করা, টুলের অনুমতি সীমিত করা, ফাইল ও নেটওয়ার্ক অ্যাক্সেস সীমাবদ্ধ করা এবং অপব্যবহারের ধরন পর্যবেক্ষণ করা। নিরাপত্তা শুধু ইন্টারফেসের মধ্যেই সীমাবদ্ধ নয়; এটি মডেলের চারপাশের সম্পূর্ণ ওয়ার্কফ্লোর ক্ষেত্রে প্রযোজ্য।.

জেনারেটিভ এআই ব্যবহার করে নির্মাণের ক্ষেত্রে স্বচ্ছতা কেন গুরুত্বপূর্ণ?

ব্যবহারকারীদের পরিষ্কারভাবে জানা উচিত কখন এআই (AI) জড়িত থাকে, এটি কী করতে পারে এবং এর সীমাবদ্ধতা কোথায়। ভালো স্বচ্ছতার মধ্যে ‘এআই-সৃষ্ট’ বা ‘এআই-সহায়তায়’র মতো লেবেল, সহজ ব্যাখ্যা এবং মানবিক সহায়তার জন্য সুস্পষ্ট পথ অন্তর্ভুক্ত থাকতে পারে। এই ধরনের অকপটতা পণ্যটিকে দুর্বল করে না; বরং এটি ব্যবহারকারীদের আস্থা পরিমাপ করতে এবং আরও ভালো সিদ্ধান্ত নিতে সাহায্য করে।.

যখন কোনো জেনারেটিভ এআই ফিচার ক্ষতি করে বা কোনো ভুল করে, তখন তার জন্য কে দায়ী?

মডেলটি উত্তর দিলেও, এর ফলাফলের মালিকানা ডেভেলপার এবং প্রোডাক্ট টিমেরই থাকে। এর মানে হলো, ডেপ্লয়মেন্ট অনুমোদন, ইনসিডেন্ট হ্যান্ডলিং, রোলব্যাক, মনিটরিং এবং ব্যবহারকারীর সাথে যোগাযোগের ক্ষেত্রে সুস্পষ্ট দায়িত্ব থাকা উচিত। “মডেলটি সিদ্ধান্ত নিয়েছে”—এটা যথেষ্ট নয়, কারণ যারা সিস্টেমটি ডিজাইন ও চালু করেছেন, জবাবদিহিতা তাদেরই থাকতে হবে।.

চালুর পর দায়িত্বশীল জেনারেটিভ এআই উন্নয়ন কেমন হবে?

প্রকাশের পরেও পর্যবেক্ষণ, মতামত, পর্যালোচনা এবং সংশোধনের মাধ্যমে দায়িত্বশীল উন্নয়ন অব্যাহত থাকে। শক্তিশালী সিস্টেমগুলো নিরীক্ষণযোগ্য, বাধাযোগ্য, পুনরুদ্ধারযোগ্য এবং কৃত্রিম বুদ্ধিমত্তা (AI) ব্যর্থ হলে বিকল্প পথের ব্যবস্থা রেখে ডিজাইন করা হয়। লক্ষ্য নিখুঁত হওয়া নয়; বরং এমন কিছু তৈরি করা যা বাস্তব সমস্যা দেখা দিলে নিরাপদে পরীক্ষা, উন্নত এবং সামঞ্জস্য করা যায়।.

তথ্যসূত্র

1. জাতীয় মান ও প্রযুক্তি প্রতিষ্ঠান (NIST) - NIST GenAI প্রোফাইল - nvlpubs.nist.gov

2. OWASP - LLM আবেদনের জন্য OWASP শীর্ষ ১০ - owasp.org

3. তথ্য কমিশনারের কার্যালয় (আইসিও) - জেনারেটিভ এআই-এর জন্য আইসিও-র আটটি প্রশ্ন - ico.org.uk

অফিসিয়াল এআই অ্যাসিস্ট্যান্ট স্টোরে সর্বশেষ এআই খুঁজুন

আমাদের সম্পর্কে