উত্তর: একটি সাধারণ টেক্সট টাস্কের জন্য এআই খুব কম বিদ্যুৎ ব্যবহার করতে পারে, কিন্তু যখন প্রম্পট দীর্ঘ হয়, আউটপুট মাল্টিমোডাল হয়, বা সিস্টেমগুলো বিশাল পরিসরে কাজ করে, তখন এর চেয়ে অনেক বেশি বিদ্যুৎ খরচ হয়। সাধারণত প্রশিক্ষণের জন্যই শুরুতে সবচেয়ে বেশি শক্তি খরচ হয়, অন্যদিকে অনুরোধ জমা হতে থাকলে দৈনন্দিন ইনফারেন্সের কাজটিও উল্লেখযোগ্য হয়ে ওঠে।
মূল বিষয়গুলি:
প্রেক্ষাপট : যেকোনো শক্তি খরচের আনুমানিক হিসাব দেওয়ার আগে কাজটি, মডেল, হার্ডওয়্যার এবং পরিধি নির্ধারণ করুন।
প্রশিক্ষণ : বাজেট পরিকল্পনা করার সময় মডেল প্রশিক্ষণকে প্রধান প্রাথমিক ব্যয় হিসেবে বিবেচনা করুন।
ইনফারেন্স : বারবার করা ইনফারেন্সের দিকে সতর্কভাবে নজর রাখুন, কারণ বড় পরিসরে কাজ করার সময় প্রতি-অনুরোধের ছোট ছোট খরচ দ্রুত বেড়ে যায়।
অবকাঠামো : যেকোনো বাস্তবসম্মত প্রাক্কলনে শীতলীকরণ, সংরক্ষণ, নেটওয়ার্ক এবং অব্যবহৃত সক্ষমতা অন্তর্ভুক্ত করুন।
দক্ষতা : শক্তি খরচ কমাতে ছোট মডেল, সংক্ষিপ্ত প্রম্পট, ক্যাশিং এবং ব্যাচিং ব্যবহার করুন।
এর পরে আপনি যে প্রবন্ধগুলি পড়তে পছন্দ করতে পারেন:
🔗 AI কীভাবে পরিবেশকে প্রভাবিত করে
কৃত্রিম বুদ্ধিমত্তার কার্বন পদচিহ্ন, শক্তি ব্যবহার এবং টেকসইতার ক্ষেত্রে সুবিধা-অসুবিধাগুলো ব্যাখ্যা করে।.
🔗 AI কি পরিবেশের জন্য খারাপ?
এআই মডেল এবং ডেটা সেন্টারের লুকানো পরিবেশগত ব্যয় উন্মোচন করে।.
🔗 এআই কি ভালো না খারাপ? ভালো-মন্দ দিক
কৃত্রিম বুদ্ধিমত্তার সুবিধা, ঝুঁকি, নৈতিকতা এবং বাস্তব প্রভাবের একটি ভারসাম্যপূর্ণ পর্যালোচনা।.
🔗 এআই কী? একটি সহজ নির্দেশিকা
কয়েক মিনিটের মধ্যেই এআই-এর প্রাথমিক ধারণা, গুরুত্বপূর্ণ পরিভাষা এবং দৈনন্দিন জীবনের উদাহরণ শিখে নিন।.
কেন এই প্রশ্নটি মানুষের ধারণার চেয়েও বেশি গুরুত্বপূর্ণ 🔍
কৃত্রিম বুদ্ধিমত্তার শক্তি ব্যবহার শুধু পরিবেশগত আলোচনার বিষয় নয়। এটি কয়েকটি অত্যন্ত বাস্তব বিষয়কে প্রভাবিত করে:
-
বিদ্যুৎ খরচ - বিশেষ করে যেসব ব্যবসা প্রতিষ্ঠান প্রচুর পরিমাণে এআই অনুরোধ চালায় তাদের জন্য
-
কার্বন প্রভাব - সার্ভারগুলোর বিদ্যুৎ উৎসের উপর নির্ভরশীল
-
হার্ডওয়্যারের উপর চাপ - শক্তিশালী চিপগুলো প্রচুর বিদ্যুৎ খরচ করে।
-
পরিধি বাড়ানোর সিদ্ধান্ত - একটি সস্তা নির্দেশনা লক্ষ লক্ষ ব্যয়বহুল নির্দেশনায় পরিণত হতে পারে।
-
পণ্যের নকশা - কার্যকারিতা প্রায়শই মানুষের ধারণার চেয়েও ভালো একটি বৈশিষ্ট্য ( গুগল ক্লাউড , গ্রিন এআই )
অনেকেই জিজ্ঞাসা করেন, “এআই কী পরিমাণ শক্তি ব্যবহার করে?” কারণ তারা একটি চমকপ্রদ সংখ্যা চান। বিশাল কিছু। শিরোনাম হওয়ার মতো কিছু। কিন্তু এর চেয়ে ভালো প্রশ্ন হলো: আমরা কোন ধরনের এআই ব্যবহারের কথা বলছি? কারণ সেটাই সবকিছু বদলে দেয়। ( আইইএ )
একটিমাত্র অটোকমপ্লিট সাজেশন? খুবই সামান্য।
বিশাল ক্লাস্টার জুড়ে একটি ফ্রন্টিয়ার মডেলকে প্রশিক্ষণ দেওয়া? তার চেয়ে অনেক, অনেক বড়।
লক্ষ লক্ষ ব্যবহারকারীকে স্পর্শ করা একটি সার্বক্ষণিক এন্টারপ্রাইজ এআই ওয়ার্কফ্লো? হ্যাঁ, এর খরচ দ্রুত বাড়তে থাকে... ঠিক যেমন পয়সা জমে বাড়ির ভাড়া হয়ে যায়। ( ডিওই , গুগল ক্লাউড )
এআই কী পরিমাণ শক্তি ব্যবহার করে? সংক্ষিপ্ত উত্তর ⚡
এই হলো এর ব্যবহারিক সংস্করণ।.
একটি হালকা কাজের জন্য এক ওয়াট-ঘণ্টার অতি ক্ষুদ্র ভগ্নাংশ থেকে শুরু করে বৃহৎ পরিসরে প্রশিক্ষণ ও প্রয়োগের জন্য বিপুল পরিমাণ বিদ্যুৎ পর্যন্ত এআই ব্যবহার করতে পারে। এই পরিসরটি হাস্যকরভাবে বিস্তৃত মনে হয়, কারণ এটি আসলেই বিস্তৃত। ( গুগল ক্লাউড , স্ট্রুবল প্রমুখ )
সহজ কথায়:
-
সহজ অনুমানমূলক কাজ - যা ব্যবহারের ভিত্তিতে প্রায়শই তুলনামূলকভাবে সামান্য।
-
দীর্ঘ কথোপকথন, বিপুল পরিমাণ আউটপুট, ছবি তৈরি, ভিডিও তৈরি - লক্ষণীয়ভাবে বেশি শক্তি-নিবিড়।
-
বড় মডেলদের প্রশিক্ষণ দেওয়া - শক্তি খরচের হেভিওয়েট চ্যাম্পিয়ন
-
সারাদিন ধরে বৃহৎ পরিসরে এআই চালানো - যেখানে “অনুরোধ প্রতি ক্ষুদ্রতা” পরিণত হয় “বিশাল মোট বিলে” ( গুগল ক্লাউড , ডিওই )
এর একটি সহজ নিয়ম হলো এই:
-
প্রশিক্ষণ হলো একটি বিশাল প্রাথমিক শক্তি সঞ্চয়ের ঘটনা। 🏭
-
অনুমান হলো চলমান বিদ্যুৎ বিল 💡 ( স্ট্রুবল প্রমুখ , গুগল রিসার্চ )
সুতরাং যখন কেউ জিজ্ঞাসা করে, ‘ এআই কী পরিমাণ শক্তি ব্যবহার করে?’ , তখন এর সরাসরি উত্তর হলো, “কোনো নির্দিষ্ট পরিমাণ নয় - তবে এতটাই যে এর কার্যকারিতা গুরুত্বপূর্ণ হয়ে ওঠে, এবং এতটাই যে এর ব্যাপকতা পুরো চিত্রটাই পাল্টে দেয়।” ( আইইএ , গ্রীন এআই )
আমি জানি, কথাটা লোকে যতটা চায় ততটা আকর্ষণীয় নয়। কিন্তু এটা সত্যি।.
একটি ভালো এআই শক্তি অনুমানের বৈশিষ্ট্য কী? 🧠
একটি ভালো অনুমান শুধু গ্রাফিকের উপর বসানো একটি চমকপ্রদ সংখ্যা নয়। একটি বাস্তবসম্মত অনুমানের মধ্যে প্রেক্ষাপট অন্তর্ভুক্ত থাকে। অন্যথায় এটি বাথরুমের দাঁড়িপাল্লা দিয়ে কুয়াশার ওজন মাপার মতো। চিত্তাকর্ষক শোনানোর জন্য যথেষ্ট কাছাকাছি, কিন্তু বিশ্বাস করার জন্য যথেষ্ট কাছাকাছি নয়। ( আইইএ , গুগল ক্লাউড )
একটি উপযুক্ত এআই শক্তি অনুমানে নিম্নলিখিত বিষয়গুলো অন্তর্ভুক্ত থাকা উচিত:
-
কাজের ধরণ - টেক্সট, ছবি, অডিও, ভিডিও, প্রশিক্ষণ, সূক্ষ্ম সমন্বয়
-
মডেলের আকার - বড় মডেলগুলোর জন্য সাধারণত বেশি কম্পিউটিং ক্ষমতার প্রয়োজন হয়।
-
ব্যবহৃত হার্ডওয়্যার - সব চিপ সমানভাবে কার্যকর নয়।
-
সেশনের দৈর্ঘ্য - সংক্ষিপ্ত প্রম্পট এবং দীর্ঘ বহু-ধাপের ওয়ার্কফ্লো খুব আলাদা।
-
ব্যবহার - নিষ্ক্রিয় সিস্টেমও বিদ্যুৎ খরচ করে।
-
শীতলীকরণ এবং পরিকাঠামো - সার্ভারই পুরো বিল নয়
-
অবস্থান ও শক্তি মিশ্রণ - বিদ্যুৎ সব জায়গায় সমানভাবে পরিবেশবান্ধব নয় ( গুগল ক্লাউড , আইইএ )
এই কারণেই দুজন লোক এআই-এর বিদ্যুৎ ব্যবহার নিয়ে তর্ক করতে পারে এবং সম্পূর্ণ ভিন্ন বিষয় নিয়ে কথা বলার সময়ও দুজনকেই বেশ আত্মবিশ্বাসী শোনায়। একজন বোঝায় একটিমাত্র চ্যাটবটের প্রতিক্রিয়া। অন্যজন বোঝায় একটি বিশাল প্রশিক্ষণ পর্ব। দুজনই "এআই" শব্দটি উচ্চারণ করে, আর হঠাৎ করেই আলোচনাটা লাইনচ্যুত হয়ে যায় 😅
তুলনামূলক সারণী - এআই-এর শক্তি ব্যবহার অনুমান করার সেরা উপায়গুলো 📊
যারা প্রশ্নটিকে পারফরম্যান্স আর্টে পরিণত না করে এর উত্তর দিতে চান, তাদের জন্য এখানে একটি ব্যবহারিক সারণি দেওয়া হলো।.
| সরঞ্জাম বা পদ্ধতি | সেরা দর্শক | দাম | কেন এটি কাজ করে |
|---|---|---|---|
| সাধারণ আনুমানিক হিসাব | কৌতূহলী পাঠক, ছাত্রছাত্রীরা | বিনামূল্যে | দ্রুত, সহজ, কিছুটা ঝাপসা - কিন্তু মোটামুটি তুলনার জন্য যথেষ্ট ভালো। |
| ডিভাইস-সাইড ওয়াট মিটার | একক নির্মাতা, শখের কারিগর | কম | এটি মেশিনের প্রকৃত টান পরিমাপ করে, যা বেশ সুস্পষ্ট। |
| জিপিইউ টেলিমেট্রি ড্যাশবোর্ড | প্রকৌশলী, এমএল দল | মাঝারি | গণনা-নির্ভর কাজগুলোর বিষয়ে আরও ভালো বিশদ বিবরণ পাওয়া যায়, যদিও এতে বৃহত্তর স্থাপনার অতিরিক্ত ব্যয়ের বিষয়টি বাদ পড়ে যেতে পারে। |
| ক্লাউড বিলিং + ব্যবহারের লগ | স্টার্টআপ, অপস টিম | মাঝারি থেকে উচ্চ | এআই ব্যবহারকে প্রকৃত ব্যয়ের সাথে সংযুক্ত করে - নিখুঁত না হলেও, বেশ মূল্যবান। |
| ডেটা সেন্টার শক্তি প্রতিবেদন | এন্টারপ্রাইজ দলগুলি | উচ্চ | এর ফলে পরিচালনগত দৃশ্যমানতা আরও বিস্তৃত হয় এবং শীতলীকরণ ও অবকাঠামোগত বিষয়গুলো এখানে দৃশ্যমান হতে শুরু করে। |
| সম্পূর্ণ জীবনচক্র মূল্যায়ন | টেকসই উন্নয়ন দল, বড় সংস্থা | কিছুটা উঁচু, মাঝে মাঝে বেদনাদায়ক | গভীর বিশ্লেষণের জন্য সেরা, কারণ এটি চিপের গণ্ডি ছাড়িয়ে যায়... কিন্তু এটি ধীর এবং বেশ শক্তিশালী একটি যন্ত্র। |
কোনো নিখুঁত পদ্ধতি নেই। এটাই কিছুটা হতাশাজনক ব্যাপার। কিন্তু উপযোগিতার বিভিন্ন স্তর রয়েছে। এবং সাধারণত, নিখুঁতের চেয়ে কার্যকরী কিছু একটা ভালো। ( গুগল ক্লাউড )
সবচেয়ে বড় বিষয়টা কোনো জাদু নয় - এটা হলো কম্পিউট এবং হার্ডওয়্যার 🖥️🔥
যখন মানুষ এআই-এর শক্তি ব্যবহারের কথা ভাবে, তখন তারা প্রায়শই মডেলটিকেই শক্তি খরচের উৎস হিসেবে কল্পনা করে। কিন্তু মডেলটি হলো হার্ডওয়্যারে চালিত সফটওয়্যার লজিক। আর এই হার্ডওয়্যারেই বিদ্যুতের বিলটি আসে। ( স্ট্রুবল প্রমুখ , গুগল ক্লাউড )
সবচেয়ে বড় পরিবর্তনশীল বিষয়গুলোর মধ্যে সাধারণত অন্তর্ভুক্ত থাকে:
-
GPU বা অ্যাক্সিলারেটর টাইপ
-
কয়টি চিপ ব্যবহার করা হয়
-
তারা কতক্ষণ সক্রিয় থাকে
-
মেমরি লোড
-
ব্যাচের আকার এবং থ্রুপুট
-
সিস্টেমটি ভালোভাবে অপ্টিমাইজ করা হোক বা সবকিছুতে শুধু জোর খাটানো হোক ( গুগল ক্লাউড , এলএলএম-এ শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল )
একটি অত্যন্ত সুবিন্যস্ত সিস্টেম কম শক্তিতে বেশি কাজ করতে পারে। একটি ত্রুটিপূর্ণ সিস্টেম অনায়াসে বিদ্যুৎ অপচয় করতে পারে। আপনি তো জানেনই ব্যাপারটা কেমন – কিছু সেটআপ হলো রেস কারের মতো, আর কিছু হলো রকেট টেপ দিয়ে লাগানো শপিং কার্টের মতো 🚀🛒
এবং হ্যাঁ, মডেলের আকার একটি গুরুত্বপূর্ণ বিষয়। বড় মডেলগুলিতে সাধারণত বেশি মেমরি এবং বেশি কম্পিউটেশনের প্রয়োজন হয়, বিশেষ করে দীর্ঘ আউটপুট তৈরি করার সময় বা জটিল যুক্তি পরিচালনা করার ক্ষেত্রে। কিন্তু দক্ষতার কিছু কৌশল এই চিত্রটি বদলে দিতে পারে: ( গ্রীন এআই , এলএলএম শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল )
-
কোয়ান্টাইজেশন
-
আরও ভালো রুটিং
-
ছোট বিশেষজ্ঞ মডেল
-
ক্যাশিং
-
ব্যাচিং
-
স্মার্টার হার্ডওয়্যার শিডিউলিং ( এলএলএম শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল )
সুতরাং প্রশ্নটি শুধু “মডেলটি কতটা বড়?” নয়, বরং “এটি কতটা বুদ্ধিমত্তার সাথে চালানো হচ্ছে?”
ট্রেনিং বনাম ইনফারেন্স - এই দুটি সম্পূর্ণ ভিন্ন জিনিস 🐘🐇
এই বিভাজনটিই প্রায় সবাইকে বিভ্রান্ত করে।.
প্রশিক্ষণ
ট্রেনিং হলো এমন একটি প্রক্রিয়া যেখানে একটি মডেল বিশাল ডেটাসেট থেকে প্যাটার্ন শেখে। এই প্রক্রিয়ায় অনেকগুলো চিপ দীর্ঘ সময় ধরে চলতে পারে এবং বিপুল পরিমাণ ডেটা বিশ্লেষণ করতে পারে। এই পর্যায়টি অত্যন্ত শক্তি-ক্ষয়ী। কখনও কখনও তা মাত্রাতিরিক্তও হয়। ( স্ট্রুবল প্রমুখ )
প্রশিক্ষণের শক্তি নির্ভর করে:
-
মডেলের আকার
-
ডেটাসেটের আকার
-
প্রশিক্ষণের সংখ্যা
-
ব্যর্থ পরীক্ষা
-
সূক্ষ্ম সমন্বয় পাস
-
হার্ডওয়্যার দক্ষতা
-
ওভারহেড কুলিং ( স্ট্রুবেল প্রমুখ , গুগল রিসার্চ )
আর এই অংশটাই মানুষ প্রায়শই এড়িয়ে যায় - সাধারণ মানুষ প্রায়শই ভাবে যে, একটি বড় প্রশিক্ষণ পর্ব একবারই সম্পন্ন হবে এবং তাতেই সব শেষ। বাস্তবে, উন্নয়নের প্রক্রিয়ায় বারবার চালানো, সূক্ষ্ম সমন্বয়, পুনঃপ্রশিক্ষণ, মূল্যায়ন এবং মূল পর্বের পাশাপাশি আরও অনেক গতানুগতিক কিন্তু ব্যয়বহুল পুনরাবৃত্তি জড়িত থাকতে পারে। ( স্ট্রুবল প্রমুখ , গ্রিন এআই )
অনুমান
ইনফারেন্স হলো মডেলের দ্বারা ব্যবহারকারীর প্রকৃত অনুরোধের উত্তর দেওয়া। একটি অনুরোধকে হয়তো তেমন গুরুত্বপূর্ণ মনে নাও হতে পারে। কিন্তু ইনফারেন্স বারবার, ক্রমাগত চলতে থাকে। লক্ষ লক্ষ বার। কখনও কখনও কোটি কোটি বার। ( গুগল রিসার্চ , ডিওই )
অনুমান শক্তি বৃদ্ধি পায়:
-
প্রম্পটের দৈর্ঘ্য
-
আউটপুট দৈর্ঘ্য
-
ব্যবহারকারীর সংখ্যা
-
লেটেন্সি প্রয়োজনীয়তা
-
বহুবিধ বৈশিষ্ট্য
-
আপটাইম প্রত্যাশা
-
নিরাপত্তা এবং পোস্ট-প্রসেসিং ধাপসমূহ ( গুগল ক্লাউড , এলএলএম শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল )
সুতরাং প্রশিক্ষণ হলো ভূমিকম্প। অনুমান হলো জোয়ার। একটি নাটকীয়, অন্যটি দীর্ঘস্থায়ী, এবং উভয়ই উপকূলকে কিছুটা নতুন রূপ দিতে পারে। এটি হয়তো একটি অস্বাভাবিক রূপক, কিন্তু এটি কমবেশি খাপ খায়।.
শক্তির সেইসব লুকানো খরচ যা মানুষ ভুলে যায় 😬
যখন কেউ শুধুমাত্র চিপের দিকে তাকিয়ে এআই-এর শক্তি ব্যবহারের অনুমান করে, তখন তারা সাধারণত প্রকৃত ব্যবহারের চেয়ে কম হিসাব করে। সবসময় মারাত্মকভাবে না হলেও, বিষয়টি লক্ষণীয় হওয়ার জন্য যথেষ্ট। ( গুগল ক্লাউড , আইইএ )
এখানে লুকানো অংশগুলো রয়েছে:
শীতলীকরণ ❄️
সার্ভার তাপ উৎপন্ন করে। শক্তিশালী এআই হার্ডওয়্যার প্রচুর পরিমাণে তাপ উৎপন্ন করে। শীতলীকরণ অপরিহার্য। গণনার জন্য ব্যবহৃত প্রতিটি ওয়াট, শুধুমাত্র তাপমাত্রা সহনীয় রাখতে আরও বেশি শক্তি ব্যবহারের কারণ হয়ে দাঁড়ায়। ( আইইএ , গুগল ক্লাউড )
তথ্য চলাচল 🌐
স্টোরেজ, মেমরি এবং নেটওয়ার্ক জুড়ে ডেটা স্থানান্তর করতেও শক্তি লাগে। এআই শুধু “চিন্তা” করাই নয়। এটি ক্রমাগত তথ্য পুনর্বিন্যাসও করে। ( আইইএ )
নিষ্ক্রিয় ক্ষমতা 💤
সর্বোচ্চ চাহিদার জন্য নির্মিত সিস্টেমগুলো সবসময় সর্বোচ্চ চাহিদায় চলে না। অলস বা অব্যবহৃত পরিকাঠামোও বিদ্যুৎ খরচ করে। ( গুগল ক্লাউড )
অতিরিক্ত ব্যবস্থা এবং নির্ভরযোগ্যতা 🧱
ব্যাকআপ, ফেইলওভার সিস্টেম, ডুপ্লিকেট রিজিয়ন, সেফটি লেয়ার — সবই মূল্যবান এবং বৃহত্তর জ্বালানি চিত্রের অংশ। ( আইইএ )
সংরক্ষণ 📦
ট্রেনিং ডেটা, এমবেডিং, লগ, চেকপয়েন্ট, জেনারেটেড আউটপুট — এই সবই কোথাও না কোথাও থাকে। স্টোরেজ নিঃসন্দেহে কম্পিউটের চেয়ে সস্তা, কিন্তু শক্তির দিক থেকে এটি বিনামূল্যে নয়। ( আইইএ )
এই কারণেই ‘এআই কতটা শক্তি ব্যবহার করে?’—এই প্রশ্নের সঠিক উত্তর শুধু একটি বেঞ্চমার্ক চার্টের দিকে তাকিয়ে দেওয়া যায় না। সম্পূর্ণ স্ট্যাকটিই গুরুত্বপূর্ণ। ( গুগল ক্লাউড , আইইএ )
কেন একটি এআই প্রম্পট হতে পারে খুবই ছোট - আর পরেরটিই হতে পারে দানবীয় 📝➡️🎬
সব অনুরোধ একরকম হয় না। একটি বাক্য পুনর্লিখনের সংক্ষিপ্ত অনুরোধকে একটি দীর্ঘ বিশ্লেষণ, বহু-ধাপের কোডিং সেশন বা উচ্চ-রেজোলিউশনের ছবি তৈরির অনুরোধের সাথে তুলনা করা যায় না। ( গুগল ক্লাউড )
যেসব জিনিস প্রতি মিথস্ক্রিয়ায় শক্তির ব্যবহার বাড়িয়ে দেয়:
-
দীর্ঘতর প্রসঙ্গ উইন্ডো
-
দীর্ঘ প্রতিক্রিয়া
-
সরঞ্জাম ব্যবহার এবং পুনরুদ্ধারের ধাপগুলি
-
যুক্তি বা যাচাইকরণের জন্য একাধিকবার যাচাই করা
-
ছবি, অডিও বা ভিডিও তৈরি
-
উচ্চতর সমকালীনতা
-
নিম্নতর লেটেন্সি লক্ষ্যমাত্রা ( গুগল ক্লাউড , এলএলএম শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল )
একটি হালকা টেক্সট উত্তর তুলনামূলকভাবে সস্তা হতে পারে। একটি বিশাল মাল্টিমোডাল ওয়ার্কফ্লো, সত্যি বলতে, সস্তা নাও হতে পারে। ব্যাপারটা অনেকটা কফি অর্ডার করা আর বিয়ের অনুষ্ঠানে খাবার পরিবেশন করার মতো। প্রযুক্তিগতভাবে, দুটোকেই “খাদ্য পরিষেবা” হিসেবে গণ্য করা হয়। কিন্তু একটি অন্যটির মতো নয় ☕🎉
এই বিষয়টি বিশেষ করে প্রোডাক্ট টিমের জন্য গুরুত্বপূর্ণ। যে ফিচারটি কম ব্যবহারে নিরীহ মনে হয়, সেটিই ব্যাপক হারে ব্যয়বহুল হয়ে উঠতে পারে, যদি প্রতিটি ইউজার সেশন দীর্ঘতর, আরও তথ্যবহুল এবং অধিক কম্পিউট-হেভি হয়ে ওঠে। ( ডিওই , গুগল ক্লাউড )
কনজিউমার এআই এবং এন্টারপ্রাইজ এআই একই জিনিস নয় 🏢📱
সাধারণ ব্যবহারকারী যারা মাঝে মাঝে এআই ব্যবহার করেন, তারা হয়তো ধরে নিতে পারেন যে এর মাঝে মাঝে আসা প্রম্পটগুলোই আসল সমস্যা। সাধারণত, শক্তির মূল বিষয়টি সেখানে থাকে না। ( গুগল ক্লাউড )
এন্টারপ্রাইজ ব্যবহার হিসাব বদলে দেয়:
-
হাজার হাজার কর্মচারী
-
সর্বদা-সক্রিয় সহ-পাইলট
-
স্বয়ংক্রিয় নথি প্রক্রিয়াকরণ
-
কল সারাংশ
-
চিত্র বিশ্লেষণ
-
কোড পর্যালোচনা সরঞ্জাম
-
ব্যাকগ্রাউন্ড এজেন্টগুলো ক্রমাগত চলছে
সেখানেই সামগ্রিক শক্তি ব্যবহার অত্যন্ত গুরুত্বপূর্ণ হয়ে ওঠে। এর কারণ এই নয় যে প্রতিটি পদক্ষেপই প্রলয়ঙ্করী, বরং এর কারণ হলো পুনরাবৃত্তি একটি গুণক হিসেবে কাজ করে। ( ডিওই , আইইএ )
আমার নিজের পরীক্ষা এবং ওয়ার্কফ্লো পর্যালোচনার সময়, এখানেই লোকেরা অবাক হয়। তারা মডেলের নাম বা জমকালো ডেমোর উপর মনোযোগ দেয় এবং বিক্রির পরিমাণকে উপেক্ষা করে। বিক্রির পরিমাণই প্রায়শই আসল চালিকাশক্তি - অথবা পরিত্রাতা, তা নির্ভর করে আপনি গ্রাহকদের বিল করছেন নাকি ইউটিলিটি বিল পরিশোধ করছেন তার উপর 😅
ভোক্তাদের কাছে এর প্রভাব বিমূর্ত মনে হতে পারে। কিন্তু ব্যবসার ক্ষেত্রে তা খুব দ্রুতই মূর্ত হয়ে ওঠে:
-
বৃহত্তর অবকাঠামো বিল
-
অপ্টিমাইজ করার জন্য আরও চাপ
-
যেখানে সম্ভব, ছোট মডেলের জন্য আরও বেশি প্রয়োজন।
-
অভ্যন্তরীণ টেকসই প্রতিবেদন
-
ক্যাশিং এবং রাউটিং-এর প্রতি আরও মনোযোগ ( গুগল ক্লাউড , গ্রিন এআই )
এআই-কে ত্যাগ না করেই এর শক্তি ব্যবহার কমানোর উপায় 🌱
এই অংশটি গুরুত্বপূর্ণ, কারণ লক্ষ্যটি “এআই-এর ব্যবহার বন্ধ করা” নয়। সাধারণত তা বাস্তবসম্মত নয়, এমনকি প্রয়োজনীয়ও নয়। এর উন্নততর ব্যবহারই হলো বুদ্ধিদীপ্ত পন্থা।.
এখানে সবচেয়ে বড় লিভারগুলো হলো:
১. কাজটি সম্পন্ন করার জন্য সবচেয়ে ছোট মডেলটি ব্যবহার করুন।
সব কাজের জন্য ভারী বিকল্পের প্রয়োজন হয় না। শ্রেণিবিন্যাস বা সারসংক্ষেপের জন্য একটি হালকা মডেল দ্রুত অপচয় কমাতে পারে। ( গ্রীন এআই , গুগল ক্লাউড )
২. প্রম্পট এবং আউটপুট সংক্ষিপ্ত করুন
বিস্তারিত তথ্য দিলে, ফলাফলও বিস্তারিতই হবে। অতিরিক্ত টোকেনের অর্থ হলো অতিরিক্ত গণনা। কখনও কখনও প্রম্পট সংক্ষিপ্ত করাই সবচেয়ে সহজ উপায়। ( কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং স্ট্র্যাটেজিস ইন এলএলএম এনার্জি ইউজ , গুগল ক্লাউড )
৩. পুনরাবৃত্ত ফলাফল ক্যাশে করুন
যদি একই কোয়েরি বারবার আসে, তবে প্রতিবার তা নতুন করে তৈরি করবেন না। এই বিষয়টি এতটাই স্পষ্ট যে তা প্রায়ই চোখ এড়িয়ে যায়। ( গুগল ক্লাউড )
৪. সম্ভব হলে কাজগুলো একসাথে করুন।
একসাথে একাধিক কাজ করলে তার সর্বোত্তম ব্যবহার নিশ্চিত হয় এবং অপচয় কমে। ( এলএলএম-এ শক্তি ব্যবহারের ক্ষেত্রে পরিমাণ নির্ধারণ, ব্যাচিং এবং পরিবেশন কৌশল )
৫. বুদ্ধিমত্তার সাথে কাজগুলো বণ্টন করুন
আত্মবিশ্বাস কমে গেলে বা কাজের জটিলতা বেড়ে গেলেই কেবল বড় মডেল ব্যবহার করুন। ( গ্রীন এআই , গুগল ক্লাউড )
৬. অবকাঠামো অপ্টিমাইজ করুন
উন্নততর সময়সূচী নির্ধারণ, উন্নততর হার্ডওয়্যার, উন্নততর শীতলীকরণ কৌশল - সাধারণ বিষয়, কিন্তু সুফল বিশাল। ( গুগল ক্লাউড , ডিওই )
৭. অনুমান করার আগে মেপে নিন।
অনেক দলই মনে করে যে তারা জানে বিদ্যুৎ কোথায় যাচ্ছে। তারপর তারা পরিমাপ করে দেখে, এবং আসল ব্যাপারটা হলো—ব্যয়বহুল অংশটি অন্য কোথাও রয়েছে। ( গুগল ক্লাউড )
দক্ষতা বৃদ্ধির কাজ আকর্ষণীয় নয়। এটি খুব কমই প্রশংসা পায়। কিন্তু বৃহৎ পরিসরে এআই-কে আরও সাশ্রয়ী এবং আরও নির্ভরযোগ্য করে তোলার জন্য এটি অন্যতম সেরা উপায় 👍
এআই-এর বিদ্যুৎ ব্যবহার নিয়ে প্রচলিত কিছু ভ্রান্ত ধারণা 🚫
চলুন কয়েকটি ভুল ধারণা দূর করা যাক, কারণ এই বিষয়টি খুব দ্রুত জটিল হয়ে ওঠে।.
ভ্রান্ত ধারণা ১ - প্রতিটি এআই কোয়েরি ব্যাপক অপচয়মূলক
আবশ্যিকভাবে নয়। কিছু ক্ষেত্রে তা পরিমিত হয়। কাজের পরিধি এবং ধরন অনেক গুরুত্বপূর্ণ। ( গুগল ক্লাউড )
ভ্রান্ত ধারণা ২ - প্রশিক্ষণই একমাত্র গুরুত্বপূর্ণ বিষয়
না। ব্যবহার ব্যাপক হলে সময়ের সাথে সাথে অনুমান প্রাধান্য পেতে পারে। ( গুগল রিসার্চ , ডিওই )
ভ্রান্ত ধারণা ৩ - বড় মডেল মানেই সবসময় ভালো ফলাফল
কখনও কখনও হ্যাঁ, কখনও কখনও একেবারেই না। অনেক কাজই ছোট সিস্টেমে ভালোভাবে চলে। ( গ্রীন এআই )
ভ্রান্ত ধারণা ৪ - শক্তি ব্যবহার মানেই স্বয়ংক্রিয়ভাবে কার্বন নিঃসরণ।
ঠিক তা নয়। কার্বন শক্তির উৎসের উপরও নির্ভর করে। ( আইইএ , স্ট্রুবল প্রমুখ )
ভ্রান্ত ধারণা ৫ - এআই-এর শক্তি ব্যবহারের জন্য একটি সার্বজনীন সংখ্যা পাওয়া সম্ভব
আপনি পারবেন না, অন্তত এমন কোনো রূপে নয় যা অর্থবহ থাকে। অথবা আপনি হয়তো পারবেন, কিন্তু তা এতটাই গড়পড়তা হয়ে যাবে যে এর মূল্য হারিয়ে যাবে। ( আইইএ )
এই কারণেই ‘এআই কতটা শক্তি ব্যবহার করে?’ —এই প্রশ্নটি করা বুদ্ধিমানের কাজ, তবে তার জন্য একটি স্লোগানের পরিবর্তে একটি বহুমাত্রিক উত্তরের জন্য প্রস্তুত থাকতে হবে।
তাহলে... এআই আসলে কতটা শক্তি ব্যবহার করে? 🤔
এই হলো সুপ্রতিষ্ঠিত উপসংহার।.
এআই ব্যবহারসমূহ:
-
কিছু সাধারণ কাজের জন্য সামান্য
-
ভারী মাল্টিমোডাল জেনারেশনের জন্য আরও অনেক বেশি।
-
বৃহৎ পরিসরে মডেল প্রশিক্ষণের জন্য একটি বিশাল পরিমাণ
-
মোট পরিমাণটা বিশাল , যখন সময়ের সাথে সাথে লক্ষ লক্ষ অনুরোধ জমা হতে থাকে ( গুগল ক্লাউড , ডিওই )
এর আকৃতিটা এইরকম।.
মূল বিষয়টি হলো পুরো ব্যাপারটিকে একটি ভীতিপ্রদ সংখ্যা বা একটি তাচ্ছিল্যপূর্ণ মন্তব্যে সীমাবদ্ধ না করে ফেলা। এআই-এর শক্তি ব্যবহার একটি বাস্তব বিষয়। এটি গুরুত্বপূর্ণ। এর উন্নতি করা সম্ভব। এবং এ নিয়ে কথা বলার সেরা উপায় হলো প্রাসঙ্গিকতার সাথে আলোচনা করা, নাটকীয়তার সাথে নয়। ( আইইএ , গ্রিন এআই )
জনসাধারণের আলোচনার একটি বড় অংশই দুই চরম মতের মধ্যে দোদুল্যমান থাকে — একদিকে “এআই মূলত বিনামূল্যে”, অন্যদিকে “এআই একটি বৈদ্যুতিক মহাপ্রলয়”। বাস্তবতা আরও সাধারণ, যা একে আরও তথ্যপূর্ণ করে তোলে। এটি একটি সিস্টেমগত সমস্যা। হার্ডওয়্যার, সফটওয়্যার, ব্যবহার, পরিধি, শীতলীকরণ, নকশার সিদ্ধান্ত। গতানুগতিক? কিছুটা। গুরুত্বপূর্ণ? খুবই। ( আইইএ , গুগল ক্লাউড )
মূল শিক্ষা ⚡🧾
আপনি যদি ‘ এআই কতটা শক্তি ব্যবহার করে?’ , তাহলে সংক্ষেপে বলা যায়:
-
এমন কোনো সংখ্যা নেই যা সবার জন্য প্রযোজ্য।
-
প্রশিক্ষণে সাধারণত শুরুর দিকে সবচেয়ে বেশি শক্তি খরচ হয়।
-
বৃহৎ পরিসরে অনুমান একটি প্রধান বিষয় হয়ে ওঠে।
-
মডেলের আকার, হার্ডওয়্যার, কাজের চাপ এবং শীতলীকরণ ব্যবস্থা—এই সবই গুরুত্বপূর্ণ।
-
ছোটখাটো উন্নতিও আশ্চর্যজনকভাবে বড় পার্থক্য গড়ে তুলতে পারে।
-
সবচেয়ে বুদ্ধিদীপ্ত প্রশ্নটি শুধু “কতটা” নয়, বরং “কোন কাজের জন্য, কোন সিস্টেমে, কী পরিসরে?” ( আইইএ , গুগল ক্লাউড )
সুতরাং হ্যাঁ, এআই প্রকৃত শক্তি ব্যবহার করে। যা মনোযোগ আকর্ষণের জন্য যথেষ্ট। যা আরও উন্নত প্রকৌশলের যৌক্তিকতা প্রমাণের জন্য যথেষ্ট। কিন্তু কোনো হাস্যকর বা একঘেয়ে উপায়ে নয়।.
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
একটিমাত্র নির্দেশের জন্য এআই কী পরিমাণ শক্তি ব্যবহার করে?
একটিমাত্র প্রম্পটের জন্য কোনো সার্বজনীন সংখ্যা নেই, কারণ এর শক্তি খরচ নির্ভর করে মডেল, হার্ডওয়্যার, প্রম্পটের দৈর্ঘ্য, আউটপুটের দৈর্ঘ্য এবং ব্যবহৃত যেকোনো অতিরিক্ত টুলের উপর। একটি সংক্ষিপ্ত টেক্সট রেসপন্স তুলনামূলকভাবে কম শক্তি খরচ করতে পারে, অন্যদিকে একটি দীর্ঘ মাল্টিমোডাল টাস্ক উল্লেখযোগ্যভাবে বেশি শক্তি খরচ করতে পারে। সবচেয়ে অর্থবহ উত্তরটি কোনো একটি নির্দিষ্ট সংখ্যা নয়, বরং কাজটি ঘিরে থাকা প্রেক্ষাপট।.
এআই-এর শক্তি ব্যবহারের অনুমানগুলো কেন এত ভিন্ন হয়?
অনুমানগুলো ভিন্ন ভিন্ন হয়, কারণ মানুষ প্রায়শই 'এআই' নামক একটিমাত্র লেবেলের অধীনে খুব ভিন্ন ভিন্ন জিনিসের তুলনা করে। একটি অনুমান হয়তো একটি হালকা চ্যাটবটের উত্তরের বর্ণনা দেয়, যেখানে অন্যটি ছবি তৈরি, ভিডিও বা বৃহৎ পরিসরের মডেল প্রশিক্ষণের মতো বিষয় অন্তর্ভুক্ত করে। একটি অনুমানকে অর্থবহ হতে হলে, এর জন্য কাজের ধরন, মডেলের আকার, হার্ডওয়্যার, ব্যবহার, শীতলীকরণ এবং অবস্থানের মতো প্রাসঙ্গিক তথ্য প্রয়োজন।.
এআই-কে প্রশিক্ষণ দেওয়া, নাকি প্রতিদিন এটি চালানো—কোনটিতে বেশি শক্তি খরচ হয়?
ট্রেনিং সাধারণত একটি বড় প্রাথমিক শক্তি খরচের বিষয়, কারণ এতে বিশাল ডেটাসেটের ওপর দীর্ঘ সময় ধরে অনেকগুলো চিপ চলতে পারে। ইনফারেন্স হলো চলমান খরচ যা প্রতিবার ব্যবহারকারীরা অনুরোধ পাঠানোর সময় দেখা দেয়, এবং বড় পরিসরে এটিও অনেক বেশি হতে পারে। বাস্তবে, উভয়ই গুরুত্বপূর্ণ, যদিও তাদের গুরুত্বের কারণ ভিন্ন।.
কী কারণে একটি এআই অনুরোধ অন্যটির তুলনায় অনেক বেশি শক্তি-নিবিড় হয়?
দীর্ঘতর কনটেক্সট উইন্ডো, দীর্ঘতর আউটপুট, বারবার রিজনিং পাস, টুল কল, রিট্রিভাল স্টেপ এবং মাল্টিমোডাল জেনারেশন—এই সবকিছুর কারণে প্রতি ইন্টারঅ্যাকশনে শক্তির ব্যবহার বেড়ে যায়। ল্যাটেন্সি টার্গেটও গুরুত্বপূর্ণ, কারণ দ্রুততর প্রতিক্রিয়ার প্রয়োজনীয়তা কর্মদক্ষতা কমিয়ে দিতে পারে। একটি ছোট রিরাইট রিকোয়েস্ট এবং একটি দীর্ঘ কোডিং বা ইমেজ ওয়ার্কফ্লো কোনোভাবেই তুলনীয় নয়।.
এআই কী পরিমাণ শক্তি ব্যবহার করে, এই প্রশ্নটি করার সময় মানুষ শক্তির কোন লুকানো খরচগুলো এড়িয়ে যায়?
অনেকেই শুধু চিপের উপর মনোযোগ দেন, কিন্তু এতে শীতলীকরণ, ডেটা স্থানান্তর, সংরক্ষণ, নিষ্ক্রিয় ধারণক্ষমতা এবং ব্যাকআপ বা ফেইলওভার অঞ্চলের মতো নির্ভরযোগ্যতা ব্যবস্থাগুলো উপেক্ষিত হয়। এই সহায়ক স্তরগুলো মোট কাঠামোকে উল্লেখযোগ্যভাবে পরিবর্তন করতে পারে। একারণেই শুধুমাত্র একটি বেঞ্চমার্ক খুব কমই শক্তির সম্পূর্ণ চিত্র তুলে ধরতে পারে।.
একটি বড় এআই মডেল কি সবসময় বেশি শক্তি ব্যবহার করে?
বড় মডেলগুলিতে সাধারণত বেশি কম্পিউট এবং মেমরির প্রয়োজন হয়, বিশেষ করে দীর্ঘ বা জটিল আউটপুটের জন্য, তাই এগুলি প্রায়শই বেশি শক্তি খরচ করে। কিন্তু বড় মানেই যে প্রতিটি কাজের জন্য ভালো, তা নয়, এবং অপটিমাইজেশন এই চিত্রটিকে উল্লেখযোগ্যভাবে পরিবর্তন করতে পারে। ছোট বিশেষায়িত মডেল, কোয়ান্টাইজেশন, ব্যাচিং, ক্যাশিং এবং স্মার্ট রাউটিং—এগুলো সবই কর্মদক্ষতা বাড়াতে পারে।.
ভোক্তা পর্যায়ে এআই-এর ব্যবহারই কি প্রধান শক্তি সমস্যা, নাকি এন্টারপ্রাইজ এআই আরও বড় সমস্যা?
সাধারণ ব্যবহারকারীর ব্যবহার বাড়তে পারে, কিন্তু শক্তির বৃহত্তর বিষয়টি প্রায়শই বড় আকারের এন্টারপ্রাইজ ডেপ্লয়মেন্টের ক্ষেত্রে দেখা যায়। সার্বক্ষণিক সক্রিয় কো-পাইলট, ডকুমেন্ট প্রসেসিং, কল সামারাইজেশন, কোড রিভিউ এবং ব্যাকগ্রাউন্ড এজেন্টগুলো বিশাল সংখ্যক ব্যবহারকারীর মধ্যে বারবার চাহিদা তৈরি করে। সমস্যাটি সাধারণত কোনো একটি বড় পদক্ষেপের চেয়ে সময়ের সাথে সাথে এর ধারাবাহিক ব্যবহারের পরিমাণের সাথে বেশি সম্পর্কিত।.
ডেটা সেন্টার এবং শীতলীকরণ ব্যবস্থা সহ বিবেচনা করলে এআই কী পরিমাণ শক্তি ব্যবহার করে?
বৃহত্তর সিস্টেমটি অন্তর্ভুক্ত করা হলে, উত্তরটি আরও বাস্তবসম্মত হয়ে ওঠে এবং সাধারণত শুধু চিপ-ভিত্তিক অনুমানের চেয়েও বড় হয়। ডেটা সেন্টারগুলোর শুধু কম্পিউটেশনের জন্যই নয়, বরং কুলিং, নেটওয়ার্কিং, স্টোরেজ এবং অতিরিক্ত সক্ষমতা বজায় রাখার জন্যও শক্তির প্রয়োজন হয়। একারণেই মডেল ডিজাইনের মতোই অবকাঠামোগত নকশা এবং স্থাপনার কার্যকারিতাও প্রায় সমান গুরুত্বপূর্ণ।.
একটি বাস্তব কর্মপ্রবাহে এআই-এর শক্তি ব্যবহার পরিমাপ করার সবচেয়ে কার্যকরী উপায় কী?
সেরা পদ্ধতিটি নির্ভর করে কে এবং কী উদ্দেশ্যে পরিমাপ করছে তার উপর। দ্রুত তুলনা করার জন্য একটি মোটামুটি সাধারণ নিয়ম সহায়ক হতে পারে, অন্যদিকে ওয়াট মিটার, জিপিইউ টেলিমেট্রি, ক্লাউড বিলিং লগ এবং ডেটা সেন্টার রিপোর্টিং ক্রমান্বয়ে আরও শক্তিশালী পরিচালনগত অন্তর্দৃষ্টি প্রদান করে। গুরুত্বপূর্ণ টেকসই উন্নয়নের কাজের জন্য, একটি পূর্ণাঙ্গ জীবনচক্রের চিত্র আরও বেশি শক্তিশালী, যদিও এটি ধীরগতির এবং অধিক শ্রমসাধ্য।.
দলগুলো কীভাবে দরকারি এআই বৈশিষ্ট্যগুলো ত্যাগ না করে এআই-এর শক্তি ব্যবহার কমাতে পারে?
সবচেয়ে বড় সুবিধা সাধারণত আসে এমন ক্ষুদ্রতম মডেল ব্যবহার করার মাধ্যমে যা কাজটি করতে পারে, প্রম্পট এবং আউটপুট সংক্ষিপ্ত করে, পুনরাবৃত্ত ফলাফল ক্যাশ করে, কাজ ব্যাচ করে এবং কেবল কঠিন কাজগুলোকে বড় মডেলে পাঠিয়ে। পরিকাঠামোর অপ্টিমাইজেশনও গুরুত্বপূর্ণ, বিশেষ করে শিডিউলিং এবং হার্ডওয়্যারের কার্যকারিতা। অনেক পাইপলাইনে, প্রথমে পরিমাপ করলে দলগুলোকে ভুল জিনিস অপ্টিমাইজ করা থেকে বিরত রাখা যায়।.
তথ্যসূত্র
-
আন্তর্জাতিক শক্তি সংস্থা (আইইএ) - এআই থেকে শক্তির চাহিদা - iea.org
-
মার্কিন জ্বালানি বিভাগ (ডিওই) - ডেটা সেন্টারগুলিতে বিদ্যুতের চাহিদা বৃদ্ধির মূল্যায়ন করে নতুন প্রতিবেদন প্রকাশ করেছে - energy.gov
-
গুগল ক্লাউড - এআই ইনফারেন্সের পরিবেশগত প্রভাব পরিমাপ - cloud.google.com
-
গুগল রিসার্চ - মেশিন লার্নিং প্রশিক্ষণের কার্বন ফুটপ্রিন্ট সম্পর্কে সুখবর - research.google
-
গুগল গবেষণা - মেশিন লার্নিং প্রশিক্ষণের কার্বন পদচিহ্ন প্রথমে স্থিতিশীল হবে এবং তারপর হ্রাস পাবে - research.google
-
arXiv - সবুজ এআই - arxiv.org
-
arXiv - Strubell et al. - arxiv.org
-
arXiv - এলএলএম শক্তি ব্যবহারে কোয়ান্টাইজেশন, ব্যাচিং এবং সার্ভিং কৌশল - arxiv.org