এআই ডেটা সেন্টার বলতে কী বোঝায়? [ভিডিও এবং কুইজ]

সংক্ষিপ্ত উত্তর: একটি এআই ডেটা সেন্টার হলো একটি উচ্চ-ঘনত্বের স্থান, যেখানে বিদ্যুৎ, শীতলীকরণ, অবকাঠামো এবং স্টোরেজ ব্যবস্থা মডেলের প্রশিক্ষণ ও পরিবেশনের জন্য বিশেষভাবে তৈরি করা হয়; এটি অতিরিক্ত জিপিইউ সহ কোনো সার্ভার রুম নয়। চিপগুলোই খ্যাতি পায়; ভবনটিই নির্ধারণ করে। যদি ইমেজগুলো বাইরে পাঠানো সম্ভব না হয়, তবে একটি ছোট সেল সংযোজন করুন; বেশিরভাগ দলেরই ভাড়া নেওয়া উচিত।

মূল বিষয়গুলি:

চিপ বনাম বিল্ডিং: শক্তি, শীতলীকরণ, ফ্যাব্রিক এবং স্টোরেজই নির্ধারণ করে যে অ্যাক্সিলারেটরগুলো কাজ করবে কিনা।

স্থান, প্রাসাদ নয়: ডেটা বাইরে নিয়ে যাওয়া সম্ভব না হলে দুটি র‍্যাক স্থাপন করুন; কোনো ক্যাম্পাস কিনবেন না।

গড় বনাম মধ্যক: আটটি রানের ক্ষেত্রে, মধ্যকটি রিস্টার্ট এড়িয়ে যায়; ১৮-ঘণ্টার গড় ব্যবহার করুন।

অপব্যবহার প্রতিরোধ: একটি মিশ্র হলে দুটি র‍্যাকের জন্য PUE উল্লেখ করবেন না।

দৃষ্টান্তমূলক ফলাফল: আটটি রান একটি ছোট মানচিত্রের সমান, ৫০% উৎপাদন সাশ্রয়ের সমান নয়।

এর পরে আপনি যে প্রবন্ধগুলি পড়তে পছন্দ করতে পারেন:

🔗 এআই কি নির্ভরযোগ্য? ভিডিও এবং কুইজ।
একটি আকর্ষণীয় ভিডিও এবং ইন্টারেক্টিভ কুইজের মাধ্যমে এআই-এর নির্ভরযোগ্যতা সম্পর্কে জানুন।

🔗 দৈনন্দিন জীবনে এআই কীভাবে ব্যবহার করবেন:
এআই কীভাবে আপনার প্রতিদিনের কাজ ও রুটিনকে সহজ করে তুলতে পারে, তার কার্যকরী উপায়গুলো জানুন।

🔗 কর্মক্ষেত্রে এআই কীভাবে ব্যবহার করবেন:
কর্মক্ষেত্রের উৎপাদনশীলতা বাড়াতে এআই ব্যবহারের কার্যকরী উপায়গুলো জানুন।

🔗 কৃত্রিম বুদ্ধিমত্তা কি নিজে থেকে চিন্তা করতে পারে?
কৃত্রিম বুদ্ধিমত্তা সত্যিই স্বাধীনভাবে চিন্তা বা যুক্তি দিয়ে বিচার করতে পারে কিনা তা বুঝুন।

এটি একটি 'সাধারণ' ডেটা সেন্টার থেকে কীভাবে আলাদা

ঐতিহ্যবাহী হলগুলো বিভিন্ন ধরনের কাজের চাপ এবং অনেকগুলো ছোট ছোট পরিষেবার নিরবচ্ছিন্ন কার্যকালের জন্য বিশেষভাবে তৈরি করা হয়। আপনি অবশ্যই রিডানডেন্সি এবং PUE ধারণাটি নিয়ে ভাবেন—অর্থাৎ, এক ওয়াট কম্পিউটিং শক্তি সরবরাহ করতে ভবনটির যে অতিরিক্ত শক্তি খরচ হয়। কিন্তু আপনি সাধারণত প্রতিটি করিডোর এমন একটি র‍্যাককে কেন্দ্র করে ডিজাইন করেন না, যা একটি পোর্টেবল হিটার ফার্মের মতো আচরণ করে।

এআই সাইটগুলো অনুপাতটা পাল্টে দেয়। ঘনত্ব বেড়ে যায়। নেটওয়ার্কটি এমন এক বুননে পরিণত হয়, যা ছাড়া প্রশিক্ষণের কাজটি খুঁড়িয়ে চলতে পারে না। স্টোরেজকে চেকপয়েন্টগুলো সচল রাখতে হয়, নইলে অ্যাক্সিলারেটরগুলো ট্র্যাফিক জ্যামে আটকে থাকা রেসের ঘোড়ার মতো অলস বসে থাকে।.

একটি সাংস্কৃতিক পার্থক্যও আছে। এন্টারপ্রাইজ অপস টিকেট এবং চেঞ্জ উইন্ডো নিয়ে ভাবে। এআই অপস জব কিউ এবং দীর্ঘমেয়াদী কাজের শেষে কোনো নোড বিকল হয়ে যাওয়ার অস্বস্তিকর অনুভূতি নিয়ে ভাবে। আমার মনে হয়, আপনি দুটোকেই 'ডেটা সেন্টার' বলতে পারেন, কারণ সেগুলো আসলেই তাই। এই নামটি শুধু ভেতরের কার্যপ্রণালীকে আড়াল করে।.

এটা কোনো নৈতিক ক্রমবিন্যাস নয়। ভিন্ন ভিন্ন যন্ত্র, কিন্তু একই পারিবারিক নাম।.

জিপিইউ, অ্যাক্সিলারেটর এবং বিদ্যুৎ অপচয়কারী র‍্যাক।

একটি প্রচলিত উঁচু মেঝেতে হাঁটলে তাকগুলোকে বেশ ভদ্র মনে হয়। কিন্তু কৃত্রিম বুদ্ধিমত্তার সারিতে হাঁটলে মনে হয়, সেগুলো যেন পুরো ভবনটাকেই গিলে ফেলতে চায়।.

এর সবচেয়ে উল্লেখযোগ্য হার্ডওয়্যারটি কোনো বুদ্ধিমান সিপিইউ নয়। এটি হলো অ্যাক্সিলারেটর ট্রে: জিপিইউ বা অন্যান্য এআই চিপ, যা সার্ভার, তারপর র‍্যাক, এবং তারপর সারিগুলিতে সাজানো থাকে এবং একটি উচ্চ-ব্যান্ডউইথ ফ্যাব্রিক শেয়ার করে। জিপিইউ ইন্টারকানেক্টগুলো চিপগুলোকে এমনভাবে জুড়ে দেয় যা একটি বিশাল অ্যাক্সিলারেটরের মতো কাজ করতে পারে; ক্লাস্টার ফ্যাব্রিক সারি পর্যায়ে একই কৌশল অবলম্বন করে। প্যারালাল ট্রেনিং তখনই কাজ করে যখন এই সংযোগগুলো শক্তিশালী এবং অনুমানযোগ্য থাকে। তা না হলে আপনার "ক্লাস্টার" হয়ে দাঁড়াবে একই পোস্টকোড শেয়ার করা কিছু দামী ওয়ার্কস্টেশনের স্তূপ।

পাওয়ার চিপকে অনুসরণ করে। কোনো বিশালাকার অফিস পিডিইউ নয়। একটি হল একবার ভরে গেলে আইটি লোড মেগাওয়াটে পৌঁছে যায় – আমি কোনো মনগড়া সংখ্যা বলব না। প্রতি র‍্যাকে ঘনত্বই হলো আসল চমক। র‍্যাকের সংখ্যা কম। প্রতিটি যেন এক একটি ছোট চুল্লি। সীমাবদ্ধতার কারণ প্রায়শই সাবস্টেশন, জিপিইউ-এর পছন্দের তালিকা নয়। আপনি তো জানেনই ব্যাপারটা কেমন: ক্রয় বিভাগ আরও অ্যাক্সিলারেটর চায়; আর ইউটিলিটি চায় দীর্ঘ আলোচনা এবং একটি বিশাল অঙ্কের চেক।.

একটা অদ্ভুত উপমা আমি মাথা থেকে ঝেড়ে ফেলতে পারি না: র‍্যাকটা হলো একটা ক্ষুধার্ত প্রাণী। আপনি আরও দ্রুতগামী একটা তৈরি করতে পারেন। কিন্তু আপনাকে তবুও তাকে খাওয়াতে হবে, এবং তার ভেতরের গরম পরিষ্কারও করতে হবে। এর কোনো একটা বাদ দিলেই এটা একটা খুব দামী পেপারওয়েটে পরিণত হয়।.

বিদ্যুৎ, তাপ এবং শীতলীকরণ সমস্যা

বিদ্যুৎ প্রবেশ করে। তাপ নির্গত হয়। এটাই হলো পুরো ধর্ম।.

উচ্চ-ঘনত্বের র‍্যাকগুলো এমনভাবে তাপ নির্গত করে, যা সামলানোর জন্য বাতাসকে সাধারণত বলা যায় না। আপনি বাতাসকে আরও জোরালোভাবে চালিত করতে পারেন—যেমন পেছনের দরজার হিট এক্সচেঞ্জার, উষ্ণতর করিডোর, বা বুদ্ধিদীপ্ত আবদ্ধকরণ ব্যবস্থা—এবং তা একটি নির্দিষ্ট সীমা পর্যন্ত কাজও করে। এরপর তরলের আবির্ভাব ঘটে:

• সরাসরি-চিপ শীতলীকরণ

• কুল্যান্ট লুপগুলো প্ল্যান্ট রুমকে একটি রাসায়নিক কারখানার মতো দেখায়।

• কয়েকটি নকশার গভীরে প্রবেশ, যা এখনও সেইসব মানুষকে চমকে দেয় যারা মনে করেন জল আর সার্ভারের মধ্যে কোনো সম্পর্ক নেই।

এর কোনো কিছুই আকর্ষণীয় নয়। পুরোটাই হলো পণ্য, কারণ যে অ্যাক্সিলারেটর গতি কমিয়ে দেয়, তার জন্য আপনি ইতিমধ্যেই মূল্য পরিশোধ করেছেন এবং সেটি পুরোপুরি ব্যবহার করতে পারেন না।.

PUE এখনও গুরুত্বপূর্ণ। এটি একটি অনুপাত, কোনো নির্দিষ্ট বৈশিষ্ট্য নয়। অপারেটররা এর পেছনে ছোটে কারণ ফ্যান এবং পাম্পে খরচ হওয়া প্রতিটি ওয়াটই হলো এমন একটি ওয়াট যা জিপিইউ-তে যায়নি। আমি কোনো "সাধারণ" পরিসংখ্যান উল্লেখ করব না; জলবায়ু এবং আপনি কীভাবে এর সীমা নির্ধারণ করেন, তা একে পরিবর্তন করে দেয়, এবং কোনো নির্ভুলতা না থাকার চেয়েও কৃত্রিম নির্ভুলতা আরও খারাপ। এই গল্পের একটি অংশ হলো জল। কিছু গাছ অল্প জল পান করে। কিছু গাছ গোগ্রাসে গিলে নেয়। বাষ্পীয় শীতলীকরণ ততক্ষণ পর্যন্ত কার্যকর থাকে, যতক্ষণ না নদী বা খরা এটিকে রাজনৈতিক বিতর্কের বিষয় করে তোলে।

নেটওয়ার্কিং: কেন চিপের মতোই ফ্যাব্রিকও সমান গুরুত্বপূর্ণ

লোকেরা জিপিইউ-এর ছবি তোলে। তাদের সুইচগুলোর ছবি তোলা উচিত।.

ট্রেনিং হলো একটি কথোপকথন। হাজার হাজার অ্যাক্সিলারেটর অত্যন্ত নিখুঁতভাবে সমন্বয় করে গ্রেডিয়েন্ট, প্যারামিটার, মডেলের বিভিন্ন অংশ আদান-প্রদান করে। যদি নেটওয়ার্কে কোনো সমস্যা হয়, তবে পুরো কাজটি সবচেয়ে ধীরগতির হপ-এর জন্য অপেক্ষা করতে থাকে। এ কারণেই এআই বিশেষজ্ঞরা উচ্চ-ব্যান্ডউইথ নেটওয়ার্কিং, কম ল্যাটেন্সি এবং এমন টপোলজি নিয়ে মাথা ঘামান যা কোনো লিঙ্ক ব্যর্থ হলেও ভেঙে পড়ে না। ইনফিনিব্যান্ড-এর মতো নেটওয়ার্ক, একই ভূমিকায় ইথারনেট, বক্সের ভেতরে জিপিইউ ইন্টারকানেক্ট এবং প্রথমবারেই নিখুঁত ক্যাবলিং।

ইনফারেন্স একটি ভিন্ন আলোচনার বিষয়। মডেল সার্ভিং টেইল ল্যাটেন্সি নিয়ে ভাবে – অর্থাৎ ধীরগতির উত্তর নিয়ে, গড় ল্যাটেন্সি নিয়ে নয়। ব্যাচ এবং রিয়েল-টাইম এদের স্বভাবকে আলাদা করে দেয়। একটি ট্রেনিং ক্লাস্টার চায় ব্যাপক, সম্মিলিত এবং প্রায় সর্বাত্মক মুভমেন্ট। অন্যদিকে, একটি সার্ভিং ফ্লিট চায় অনেকগুলো ছোট ছোট রিকোয়েস্ট এবং আইসোলেশন, যেখানে লোড ব্যালান্সারে কোনো ট্র্যাফিক জ্যাম থাকবে না।

এই প্রসঙ্গে একটা ভুল ধরিয়ে দিই: লোকেরা নেটওয়ার্ককে প্লাম্বিং এবং চিপসকে রেস্তোরাঁ হিসেবে দেখে। এই বিল্ডিংয়ে প্লাম্বিংটাই হলো রেস্তোরাঁ। এই ভুলটা করলে আপনি এমন একটা রান্নাঘর কিনবেন যা ডেলিভারি নিতে পারে না।.

প্রশিক্ষণ বনাম অনুমান: দুটি ভবন, কখনও কখনও আক্ষরিক অর্থেই

ট্রেনিং হলো একটি অভিযান। আপনি একটি ক্লাস্টার তৈরি করেন, তাতে ডেটা সরবরাহ করেন, নিয়ম করে চেকপয়েন্ট ঠিক করেন, ঘণ্টার পর ঘণ্টা বা সপ্তাহের পর সপ্তাহ ধরে তা চালান, আর প্রার্থনা করেন যেন পুরো ব্যবস্থাটি নির্বিঘ্ন থাকে। এটি ব্যাচ-নির্ভর, প্রচুর ব্যান্ডউইথ ব্যবহারকারী এবং নীরবে ধৈর্যশীল — যতক্ষণ না একটি নোড বিকল হয়ে পুরো কার্যক্রমটিতে বাধা সৃষ্টি করে। একটি নিবিড়ভাবে সংযুক্ত কাজে একটিমাত্র অচল অ্যাক্সিলারেটর পুরো ব্যবস্থাটিকেই থামিয়ে দিতে পারে।.

ইনফারেন্স হলো একটি প্রদর্শনী কেন্দ্র। ইতিমধ্যে প্রশিক্ষিত মডেলগুলো এখন প্রশ্নের উত্তর দিচ্ছে, ছবি শ্রেণীবদ্ধ করছে, এবং টেক্সট তৈরি করছে। লেটেন্সি একটি গুরুত্বপূর্ণ বিষয়। গ্রাহকের কাছাকাছি থাকা সামান্য পুরোনো একটি অ্যাক্সিলারেটর, এক মহাদেশ দূরে অবস্থিত একটি জাঁকজমকপূর্ণ অ্যাক্সিলারেটরকে ছাড়িয়ে যেতে পারে।.

ফলে একটা বিভাজন তৈরি হয়। ট্রেনিং ক্যাম্পাসগুলো শক্তি, জমি এবং ঘনত্বের পেছনে ছোটে। ইনফারেন্স সাইটগুলো ল্যাটেন্সি এবং উপস্থিতির পেছনে ছোটে। হাইব্রিড হলও আছে, কারণ পুঁজি অসীম নয়। অবশ্য – সবসময় দুটো বিল্ডিং নয়। কখনও কখনও ভেলভেট রোপ এবং দুটি কুলিং লুপসহ একটি হল।.

এখানেই কোলোকেশন, হাইপারস্কেল ক্যাম্পাস এবং অন-প্রেমের মধ্যে বিভাজন ঘটে। হাইপারস্কেলাররা এমন স্কেলে নির্মাণ করে, যার তুলনায় আমাদের মতো সাধারণ মানুষকে আসবাবপত্র গোছানোর মতো মনে হয়। কোলোকেশনগুলো র‍্যাক অনুযায়ী ডেনসিটি বিক্রি করে। যেখানে ডেটা বাইরে যেতে পারে না, সেখানেই অন-প্রেম ব্যবহৃত হয়।.

স্টোরেজ থ্রুপুট, চেকপয়েন্ট এবং হাংরি চিপস

কেউই ব্রোশারের প্রচ্ছদে প্যারালাল ফাইল সিস্টেমের কথা উল্লেখ করে না।.

ট্রেনিং ডেটা এত দ্রুত আসতে হবে যাতে জিপিইউ-গুলোকে অধৈর্য হতে না হয়। চেকপয়েন্টগুলো এমনভাবে লোড হতে হবে যাতে কোনো ক্র্যাশের কারণে এক সপ্তাহের ডেটা নষ্ট না হয়ে যায়। একটি সার্ভিং রেপ্লিকা লাইভ হওয়ার আগেই মডেলের ওয়েটগুলো লোড হতে হবে। শুধু ধারণক্ষমতাই নয়, স্টোরেজের থ্রুপুটই হলো নীরব প্রতিবন্ধকতা। আপনি অ্যাক্সিলারেটরের পেছনে বিপুল অর্থ ব্যয় করতে পারেন, কিন্তু ভার্চুয়াল মেশিনের জন্য ডিজাইন করা একটি সাধারণ অ্যারে দিয়ে সেগুলোকে অপ্রতুল করে ফেলতে পারেন।.

এই চিত্রটি বেশ পরিচিত: একটি ঝকঝকে ক্লাস্টার, একটি কাজের সারি, এবং ইনপুট/আউটপুটের অপেক্ষা, যা একটি অভদ্র বিলের মতো তাকিয়ে থাকে। ডেটা পাথকে ক্লাস্টার না করে শুধু কম্পিউটকে ক্লাস্টার করলেই একটি অত্যন্ত ব্যয়বহুল অলস অবস্থা তৈরি হয়। হয় চিপগুলোকে সচল রাখুন, নয়তো স্বীকার করুন যে আপনি একটি ভাস্কর্য কিনেছেন।.

সফটওয়্যার, অর্কেস্ট্রেশন এবং অনাড়ম্বর অপস লেয়ার

হার্ডওয়্যারই হলো তারকা। শিডিউলার কাজটা করে।.

একটি এআই ডেটা সেন্টার অকেজো হয়ে যায় যদি জবগুলো জিপিইউ খুঁজে না পায়, যদি দুটি টিম হাতাহাতি ছাড়া একটি ক্লাস্টার শেয়ার করতে না পারে, যদি ব্যর্থ হওয়া কোনো র‍্যাঙ্ক প্রতিস্থাপন করা না যায়, যদি ফার্মওয়্যারের পরিবর্তন হতে হতে ফ্যাব্রিকটি ধীর গতিতে বিকল হয়ে যায়। অর্কেস্ট্রেশন, অবজার্ভেবিলিটি, পাওয়ার ক্যাপিং—অপারেশনাল লেয়ারের এই অনাড়ম্বর স্তরটিই আপনাকে বুঝিয়ে দেয় যে এটি কতটা গুরুত্বপূর্ণ।.

এই স্তরটির প্রতি আমার একটা দুর্বলতা আছে। এছাড়াও, যেখানে একটি ভুলভাবে কনফিগার করা এনআইসি পুরো বিকেল ধরে শীতলীকরণ সমস্যার ভান করে... সেই ব্যাপারটা আপনাকে কঠিনভাবেই জানতে হয়।.

যখন একটি নোড চলার মাঝপথে মারা যায়

একটি নোড বিকল হয়ে যায়। চেঞ্জ উইন্ডোগুলো এখনও এমন ট্রেনিং রানের সাথে সংঘর্ষে লিপ্ত হয়, যেগুলো আপনার ক্যালেন্ডারের তোয়াক্কা করে না। আপনি বড় জবগুলোকে একসাথে শিডিউল করেন, ইনফারেন্স পুলগুলোকে সুরক্ষিত রাখেন, এবং এমন সব ব্যর্থতার জন্য রানবুক লেখেন যা প্রথমে "জবটি ধীরগতির" বলে মনে হলেও পরে "জবটি পুরোপুরি বিকল" হয়ে যায়। রিডানডেন্সি এখনও গুরুত্বপূর্ণ – যেমন পাওয়ার, কুলিং, পাথ, স্টোরেজ – কিন্তু ব্যর্থতার ধরণটি পুরনো ‘নাইনস-অফ-আপটাইম’ স্লাইডের মতো অতটা গোছানো নয়। ইনফারেন্সের ক্ষেত্রে: রেপ্লিকা তৈরি করুন, অসুস্থ নোডটির চার্জ শেষ করুন, এবং উত্তর দিতে থাকুন। ট্রেনিংয়ের জন্য চেকপয়েন্ট প্রয়োজন, আশাবাদ নয়।.

অবস্থান, পানি, গ্রিড এবং প্রতিবেশীরা

শুধু দৃশ্য দেখার জন্য কোনো কুটিরের পাশে এগুলোর একটা ফেলা হয় না।.

গ্রিড সংযোগই প্রায়শই আসল জায়গা-নির্বাচন প্রক্রিয়া। একটি সাবস্টেশন এবং অন্যান্য গ্রাহক থাকা কোনো পরিষেবা সংস্থার তুলনায় জমি নির্বাচন করা সহজ। শীতলীকরণের জন্য জল ব্যবহার করলে, সামান্য বৃষ্টিপাত হলেই তা প্রতিবেশীর জন্য সমস্যা হয়ে দাঁড়ায়। শব্দদূষণ। দৃশ্যমান বিশালতা। সীমানার বেড়ায় তাপ। পরিকল্পনা কমিটিগুলো ‘ক্লাউড’ নিয়ে তখনই মতামত তৈরি করে, যখন তাদের একটি মাঠ এবং একটি নদীর প্রয়োজন হয়।

লেটেন্সি উল্টো দিকে টানে। ইনফারেন্স ব্যবহারকারী এবং ইন্টারকানেক্টের কাছাকাছি থাকতে পছন্দ করে। ট্রেনিং সস্তা বিদ্যুতের বাজার এবং শীতল জলবায়ুতে লুকিয়ে থাকতে পারে। ইন্ডাস্ট্রি এমনভাবে কথা বলে যেন একটিই নিখুঁত সাইট আছে। কিন্তু তা নেই। একটি প্রেস রিলিজের মাধ্যমে একটি আপোস করা হয়।.

অবশিষ্ট তাপ এবং অনাহূত চুল্লি

ব্রোশারগুলোতে এই অংশটা খুব জনপ্রিয়। বর্জ্য তাপ পাইপের মাধ্যমে বাড়ি, সুইমিং পুল, গ্রিনহাউসে পাঠানো; বাক্যটা চমৎকার। কখনও কখনও ডিস্ট্রিক্ট লুপটি আসল হয়। আবার কখনও ক্যাম্পাসটি ভুল জায়গায় থাকায় তাপ বাতাসে মিশে যায়। আমি ব্রোশারের সংস্করণটি নিয়ে সন্দিহান; কিন্তু পদার্থবিদ্যা নিয়ে নই।.

কার এটি প্রয়োজন (এবং কার পরিবর্তে ভাড়া নেওয়া উচিত)

বেশিরভাগ মানুষেরই এই ধরনের কোনো হল-এর মালিক হওয়ার প্রয়োজন নেই।.

স্পষ্ট তালিকা:

• হাইপারস্কেলাররা, কারণ পণ্যটি হলো ফ্লিট।

• ল্যাব, যখন অপেক্ষার সময় বাধা হয়ে দাঁড়ায়, অথবা ডেটা বের হতে পারে না

• একটি ব্যাংক, হাসপাতাল গোষ্ঠী, সরকার বা উৎপাদনকারী প্রতিষ্ঠান, যাদের একটি গোপন ডেটাসেট রয়েছে, তাদের জন্য নিজস্ব ব্যবস্থাপনায় (on-prem) বা একটি ব্যক্তিগত কোলোকেজে (private colocage) ডেটাসেট রাখা যুক্তিসঙ্গত হতে পারে, যদিও এটি একটি ঝামেলার বিষয়।

বাকি সবার ভাড়া নেওয়া উচিত। এআই-রেডি ডেনসিটি সহ কোলোকেশন। একটি ক্লাউড রিজার্ভেশন। একটি পরিচালিত ক্লাস্টার। আপনি পাওয়ার-প্ল্যান্ট অপারেটর না হয়েই অ্যাক্সিলারেটরগুলো পেয়ে যান। ভোর ৩টায় কেউ যখন প্রথমবার জিজ্ঞেস করে কুল্যান্ট লুপের জন্য কে অন-কল আছে, তখনই সব আকর্ষণ উবে যায়।.

আমি স্বীকার করব, এর মধ্যে একটা গর্বের ব্যাপার আছে। ক্লাস্টারের মালিক হওয়াটা অনেকটা ভবিষ্যদ্বাণী করার ক্ষমতার মালিক হওয়ার মতো অনুভূতি দেয়। তারপর যখন বিদ্যুতের বিলটা আসে, তখন সেই গর্বটা চাপা পড়ে যায়।.

ভবনটি কিসের জন্য

তাহলে, এআই ডেটা সেন্টার কী? এটি একটি বিশেষায়িত, উচ্চ-ঘনত্বের ক্যাম্পাস, যেখানে মডেলের প্রশিক্ষণ ও পরিষেবা প্রদানের জন্য অ্যাক্সিলারেটর, পাওয়ার, কুলিং, ফ্যাব্রিক এবং স্টোরেজ ব্যবস্থা সাজানো থাকে; এটি কোণায় একটি জিপিইউ সহ সাধারণ আইটি ব্যবস্থা নয়। দেখতে এটি একটি গুদামঘরের মতো। এর কার্যকারিতা এমন একটি পাওয়ার স্টেশনের মতো যা গাণিতিক হিসাব-নিকাশ করে।.

অন্য কিছু মনে না রাখলেও চলবে: চিপগুলোই খ্যাতি পায়; আর সাবস্টেশন, কুল্যান্ট এবং নেটওয়ার্ক ঠিক করে যে ওই চিপগুলো ব্যবহার করাটা ভালো বুদ্ধি ছিল কি না। প্রশিক্ষণ এবং অনুমান একই ছাদের নিচে থাকতে পারে; কিন্তু তাদের আচরণে ভিন্নতা থাকা চাই। বেশিরভাগ প্রতিষ্ঠানেরই ভাড়া নেওয়া উচিত। কয়েকটির নিজেদের গড়ে তোলা উচিত। উভয় ক্ষেত্রেই প্রতিবেশীরা ঠিকই খেয়াল করবে।.

ক্লাউডের বরাবরই একটা ভবন ছিল। আজকাল সেই ভবনের নিজস্ব মতামত আছে।.

বাস্তব উদাহরণ: একটি দুই-র‍্যাকের প্রশিক্ষণ সেল, যখন ইমেজগুলো বাইরে যেতে পারে না।

দৃশ্যকল্প

টোমোস ওয়েস্ট মিডল্যান্ডসের ৪০০ কর্মীবিশিষ্ট একটি উৎপাদনকারী প্রতিষ্ঠান কেস্ট্রেল প্রিসিশন-এর ইনফ্রাস্ট্রাকচার লিড। তাদের ইতিমধ্যেই একটি ছোট অন-প্রেম হল রয়েছে: ইআরপি, ফাইল শেয়ার, ভার্চুয়াল মেশিন, এবং এই নিবন্ধটি যে মিশ্র পরিবেশ দিয়ে শুরু হয়েছিল। এয়ার কুলিং। সাধারণ ইথারনেট। একটি স্যান (SAN) যা অফিসের ডিস্কের জন্য পুরোপুরি উপযুক্ত।.

মেশিন-ভিশন টিমকে ফ্যাক্টরি স্টিলসের উপর একটি পরিদর্শন মডেলকে প্রশিক্ষণ দিতে হবে। স্টিলসগুলো সাইটের বাইরে নিয়ে যাওয়া যাবে না। এগুলো এমন একটি প্রক্রিয়া দেখায় যা কোম্পানি কোনো ক্লাউড ডিস্কে, এমনকি ব্যক্তিগত ডিস্কেও রাখবে না। প্রকিউরমেন্টের সমাধান হলো চারটি ডুয়াল-অ্যাক্সিলারেটর সার্ভার এবং "আমাদের এআই ডেটা সেন্টার" শিরোনামের একটি স্লাইড। সার্ভারগুলো দুটি বিদ্যমান র‍্যাকে স্থাপন করা হয়, কারণ সেখানে জায়গা আছে, এবং জায়গার অভাবকেই সীমাবদ্ধতা বলে মনে হয়েছিল।.

তা নয়। পনেরো দিনের মধ্যেই জিপিইউগুলো ব্যস্ত শোনায় এবং তারপর নিঃশব্দে গতি কমিয়ে দেয়। যখন কোনো চেকপয়েন্ট স্যান-এ পৌঁছায়, তখন জবগুলো খুব ধীর হয়ে যায়। এগারো ঘণ্টা পর একটি নোড বিকল হয়ে যায় এবং রানটি কেবল... শেষ হয়ে যায়। টোমোস চিপ কিনতে ব্যর্থ হয়নি। সে একই পোস্টকোডের একগাদা দামী ওয়ার্কস্টেশন কিনেছে। ভবনটি তখনও একটি এন্টারপ্রাইজ হল ছিল।.

তাদের কোনো ক্যাম্পাস, নতুন সাবস্টেশন বা নদীর প্রয়োজন নেই। তাদের প্রয়োজন একটি ছোট সেল, যা একটি ক্ষুদ্রাকৃতির এআই ডেটা সেন্টারের মতো কাজ করবে: র‍্যাকগুলোতে ধারণক্ষম বিদ্যুৎ, চিপগুলোকে নষ্ট না করে নির্গত হতে পারা তাপ, ট্রেনিং জবের জন্য ব্যবহারযোগ্য ফ্যাব্রিক, চেকপয়েন্ট ধারণে সক্ষম স্টোরেজ এবং কোনো নোড অকার্যকর হয়ে গেলে ব্যবহারের জন্য একটি রানবুক। যেহেতু ইমেজগুলো বাইরে যেতে পারে না, তাই চল্লিশ মিনিট দূরের কোনো কোলো কেজ ভাড়া করা এর সমাধান নয়। দুটি র‍্যাক রেট্রোফিট করাই হলো আসল সমাধান।.

কোষের যা প্রয়োজন

• ওই সারির জন্য একটি পরিমিত পাওয়ার বাজেট প্রয়োজন, যা পিডিইউ (PDU) থেকে আসে, জিপিইউ (GPU) পছন্দের তালিকা থেকে নয়। যদি অতিরিক্ত ক্ষমতা ট্রেনিং লোডে চারটি সার্ভারকে চালাতে না পারে, তবে আলোচনা সেখানেই থেমে যায় এবং তারা আরও ঘন কোলো (colo) খোঁজার দিকে নজর দেয়, কোনো অলৌকিক কিছুর দিকে নয়।

• এই ঘনত্বে বাতাস ঠান্ডা করার জন্য কখনও বলা হয়নি: যদি হলটিতে জায়গা থাকে তবে পিছনের দরজার হিট এক্সচেঞ্জার, অথবা তার পরিবর্তে যদি সম্ভব হয় তবে একটি ছোট লিকুইড লুপ। যদি এর কোনোটিই না হয়, তবে সার্ভারগুলো ভেতরে যাবে না।

• চারটি নোডের মধ্যে একটি ডেডিকেটেড হাই-ব্যান্ডউইথ ফ্যাব্রিক, অফিসের ইথারনেট নয়। যদি বিক্রেতার ক্যাটালগে শুধুমাত্র একটি ১০ জিবি সুইচ থাকে, তবে সেটি একটি ক্লাস্টার নয়।

• চেকপয়েন্ট এবং ট্রেনিং শার্ডের জন্য স্থানীয় দ্রুতগতির স্টোরেজ, ভিএম স্যান (VM SAN) নয়।

• একটি শিডিউলার, একটি চেকপয়েন্ট ব্যবধান, এবং একটি লিখিত রিস্টার্ট পাথ। হার্ডওয়্যারই এখানে প্রধান আকর্ষণ। এই স্তরটিই হলো মূল কাজ।

• ফ্যাক্টরি লাইনের জন্য একটি সুরক্ষিত ইনফারেন্স বক্স, যা ট্রেনিংয়ের কোলাহল থেকে আলাদা; কারণ সার্ভিং চায় টেইল ল্যাটেন্সি ও আইসোলেশন, কোনো সম্মিলিত ব্যবস্থা নয়।

• পাওয়ার, জিপিইউ ক্লক, থ্রটল ইভেন্ট এবং জব ওয়াল-ক্লক লগ করার অনুমতি। যদি তারা সেগুলো পরীক্ষা করতে না পারে, তবে তারা জিপিইউগুলোর ছবি তুলবে এবং সুইচগুলো এড়িয়ে যাবে।

উদাহরণ নির্দেশাবলী

টোমোস এই বিষয়টি সুযোগ-সুবিধা সংক্রান্ত সংক্ষিপ্ত বিবরণে সাধারণ ভাষায় উল্লেখ করেছেন:

একে এআই ক্যাম্পাস বলবেন না। বিদ্যমান হলে চারটি ডুয়াল-অ্যাক্সিলারেটর সার্ভারের জন্য দুটি র‍্যাকের একটি ট্রেনিং সেল তৈরি করুন। ফ্যাক্টরি ইমেজগুলো সাইটেই থাকবে। সাফল্য হলো: চারটি নোড থার্মাল থ্রটল ছাড়াই একটি ১২-ইপোকের ইন্সপেকশন-ট্রেনিং রেসিপি সম্পন্ন করবে, কয়েক মিনিটের মধ্যে একটি চেকপয়েন্ট লিখবে, এবং যখন আমরা ইচ্ছাকৃতভাবে কোনো র‍্যাঙ্ক কিল করব, তখন সেই চেকপয়েন্ট থেকেই আবার শুরু করবে। কুলিং সিস্টেমকে অবশ্যই জিপিইউগুলোকে তাদের ট্রেনিং ক্লকে রাখতে হবে। নেটওয়ার্কিং অবশ্যই এমন একটি ফ্যাব্রিক হতে হবে যা ঐ চারটি বক্স শেয়ার করবে, অফিসের স্ট্যাকের মধ্য দিয়ে যাওয়া কোনো পথ নয়। স্টোরেজকে অবশ্যই চিপগুলোতে ডেটা সরবরাহ করতে হবে। যদি রিয়ার-ডোর হিট এক্সচেঞ্জার ফিট না হয়, তবে তা বলুন এবং থেমে যান। একটি মিক্সড হলে দুটি র‍্যাকের জন্য পিইউই (PUE) উল্লেখ করবেন না। ওই সংখ্যাটি হবে লোকদেখানো।.

তারপর তিনি প্রশিক্ষণ কাজের মধ্যেই এটি অন্তর্ভুক্ত করেন:

প্রতি ৩০ মিনিট পর পর স্থানীয় ফাস্ট পুলে চেকপয়েন্ট করুন। যদি কোনো র‍্যাঙ্ক মারা যায়, তাহলে সর্বশেষ সম্পূর্ণ চেকপয়েন্ট থেকে পুনরায় শুরু করুন। SAN-এর জন্য অপেক্ষা করবেন না। হিটের কারণে ক্লকের সময় কমে গেলে ট্রেনিং চালিয়ে যাবেন না। এটি লগ করুন এবং থামুন, যাতে আমরা স্টলটি দেখতে পারি।.

একটি ভালো ঘণ্টা দেখতে এইরকম: আটটি জিপিইউ-ই ট্রেনিং ক্লকে চলছে, চেকপয়েন্ট ফাইল তৈরি হয়ে গেছে, এবং কাজটি এখনও সঠিক ধাপে এগোচ্ছে। একটি খারাপ ঘণ্টা দেখতে এইরকম: ফ্যানগুলো পুরো দমে চলছে, ক্লক ডাউন, দশ মিনিট পরেও মাত্র ২% চেকপয়েন্ট লেখা হয়েছে, এবং অফিসের কেউ একজন বলছে "ক্লাস্টারটি চালু হয়েছে"। চালু থাকা মানে ট্রেনিং হচ্ছে না।.

কীভাবে এটি পরীক্ষা করবেন

তারা রেট্রোফিটের আগেই পরীক্ষাটি লেখে, আর ডেমোকে বিশ্বাস না করার মূল উদ্দেশ্যই হলো এটি।.

• সেই একই ১২-পর্বের ফর্মুলা, সেই একই ১,২০,০০০ পরিদর্শন স্থিরচিত্র, আটটি রান।

• জব সাবমিট করা থেকে শুরু করে ১২তম ইপকের শেষ চেকপয়েন্ট পর্যন্ত সময় পরিমাপ করা হয়, যা যেকোনো রিস্টার্ট সহ একটি সম্পূর্ণ রেসিপি পর্যন্ত ওয়াল-ক্লক সময়।

• তাপজনিত ত্রুটি গ্রহণযোগ্য নয়: রান চলাকালীন জিপিইউ ক্লক ট্রেনিং টার্গেটে স্থির থাকে। কাজটি শেষ পর্যন্ত সম্পন্ন হলেও, একটি থ্রটল ইভেন্টকে ব্যর্থ হিসেবে গণ্য করা হয়।

• স্টোরেজ বিষয়ে একটি পর্যালোচনা: জব লগ থেকে প্রাপ্ত চেকপয়েন্ট লেখার সময়, মধ্যম এবং সর্বোচ্চ।

• কাঠামোর উপর একটি ছাড়: একটি দল সুস্থ থাকা পর্যন্ত কাজটি সম্মিলিতভাবে অপেক্ষা করে বসে থাকে না। যদি তারা সেই অপেক্ষা দেখতে না পায়, তবে কার্যসজ্জাটি সম্পন্ন হয়নি।

• রিস্টার্ট পাথ পরীক্ষা করার জন্য, আটটি রানের মধ্যে দুটিকে ইচ্ছাকৃতভাবে একটি নির্দিষ্ট ধাপে র‍্যাঙ্ক কিল করা হয়।

• ইনফারেন্স হলো ফ্যাক্টরি লাইন থেকে বেড়া দেওয়া সার্ভিং বক্স পর্যন্ত একটি পৃথক ২০০-ছবির পরীক্ষা। ট্রেনিং-এর সাফল্যকে সার্ভিং-এর সাফল্য হিসেবে গণ্য করা হয় না।

• তারা পিডিইউগুলো থেকে র‍্যাক পাওয়ার ১৫-মিনিটের স্যাম্পলে রেকর্ড করে, যাতে কাউকে মেগাওয়াট আবিষ্কার করতে না হয়।

সেলটিকে "এআই-রেডি" বলার জন্য সম্মতি: ৮টির মধ্যে ৮টি রেসিপিই সম্পন্ন হয়; ৮টির মধ্যে ০টিতে থার্মাল থ্রটল দেখা যায়; বন্ধ করে দেওয়া দুটি রানই পুনরায় চালু হয়; চেকপয়েন্টগুলো মিনিটেই থাকে। যদি তারা এটা করতে ব্যর্থও হয়, তবুও তাদের কাছে অত্যাধুনিক গ্রাফিক্স কার্ডসহ একটি সার্ভার রুম তো আছেই।.

ফলাফল

এটি একটি মনগড়া আট-ধাপের পরীক্ষা থেকে প্রাপ্ত দৃষ্টান্তমূলক ফলাফল, কোনো প্রকাশিত কেস্ট্রেল পরিসংখ্যান নয়।.

পূর্বানুমানসমূহ: দুটি র‍্যাকে চারটি ডুয়াল-অ্যাক্সিলারেটর সার্ভার; একটি পরিদর্শন মডেল; ১,২০,০০০ স্থিরচিত্র; একটি নির্দিষ্ট ১২-ইপোক রেসিপির আটটি রান; রেসিপিটি শেষ না হওয়া পর্যন্ত ওয়াল-ক্লকের মধ্যে রিস্টার্ট অন্তর্ভুক্ত; থ্রটল বলতে ট্রেনিং ক্লক থেকে লগ করা একটি পতনকে বোঝায়; চেকপয়েন্ট টাইম হলো রাইট, উইশ নয়; র‍্যাক পাওয়ার হলো পিডিইউ স্যাম্পল, ক্যাম্পাস পিইউই নয়।.

রেট্রোফিটের আগে, অফিসের ইথারনেট এবং ভিএম স্যান-এ সংযুক্ত সাধারণ এয়ার-কুলড র‍্যাকের জিপিইউগুলো ছিল নিম্নরূপ:

• ৮টি রানের মধ্যে ৫টিই প্রথম চেষ্টায় শেষ হয়েছে। ঐ পাঁচটির মধ্যে গড় সময় লেগেছে: ১৪ ঘণ্টা।

• প্রায় ১১ ঘণ্টা পর থেমে যাওয়ায় ৮টির মধ্যে ৩টিকে আবার শুরু করতে হয়েছিল (দুটির ক্ষেত্রে একটি নোড অকার্যকর হয়ে একটি পুরনো চেকপয়েন্টের কারণে, এবং একটির ক্ষেত্রে একটি চেকপয়েন্ট SAN পূর্ণ করে ফেলার কারণে)। সাথে সাথেই আবার চেষ্টা করা হয়, ঘড়িতে রাতভর অপেক্ষার সুযোগ ছিল না: এতে ১১ ঘণ্টা নষ্ট হয় এবং দ্বিতীয় চেষ্টায় আরও ১৪ ঘণ্টা সময় লাগে, অর্থাৎ ঐ তিনটি রেসিপি সম্পূর্ণ করতে মোট ২৫ ঘণ্টা লেগেছিল।

• পুনরায় শুরু করা সহ আটটি রেসিপি মিলিয়ে একটি সম্পূর্ণ করতে গড় সময়: ১৮ ঘণ্টা। (পাঁচটির ক্ষেত্রে ১৪ ঘণ্টা, তিনটির ক্ষেত্রে ২৫ ঘণ্টা। আটটির মধ্যক এখনও ১৪ ঘণ্টা, যা পুনরায় শুরু করার বিষয়টি আড়াল করে দেবে। একারণেই এখানে গড়কে ভিত্তি ধরা হয়েছে।)

• ৮টি রানের মধ্যে ৭টিতে থার্মাল থ্রটল লগ করা হয়েছে। ১৪-ঘণ্টার প্রচেষ্টায় হ্রাসকৃত ক্লকের গড় সময়: ৩ ঘণ্টা।

• চেকপয়েন্ট লেখা: মধ্যক ২২ মিনিট

• র‍্যাঙ্ক-কিল এমন কোনো পরীক্ষা ছিল না যা তারা পাশ করতে পারত। তাদের কোনো রানবুক ছিল না। দুটি দুর্ঘটনাজনিত মৃত্যুই ছিল অনুসন্ধানের ফলাফল।

• প্রশিক্ষণের সময় দুটি র‍্যাকে সর্বোচ্চ আইটি লোড ছিল প্রায় ১৮ কিলোওয়াট। সারিটিতে প্রয়োজনীয় ওয়াট ছিল। কিন্তু এতে কুলিং বা ফ্যাব্রিক ছিল না।

ঐ দুটি র‍্যাকে রিয়ার-ডোর হিট এক্সচেঞ্জার, চারটি নোডের মধ্যে একটি ডেডিকেটেড ফ্যাব্রিক, চেকপয়েন্টের জন্য একটি ছোট NVMe পুল, ৩০-মিনিটের চেকপয়েন্টিং এবং একটি রিস্টার্ট রানবুকের পরে:

• ৮টির মধ্যে ৮টিই প্রথম চেষ্টায় শেষ হয়েছে। গড় সময়: ৯ ঘণ্টা

• থার্মাল থ্রটল: ৮টির মধ্যে ০

• চেকপয়েন্ট রাইট: মধ্যক ৯০ সেকেন্ড। সেটের মধ্যে সবচেয়ে খারাপ: ৩ মিনিট।

• ইচ্ছাকৃতভাবে করা দুটি র‍্যাঙ্ক-কিলই শেষ ৩০-মিনিটের চেকপয়েন্ট থেকে পুনরায় শুরু হয়েছিল। ঐ দুটি রানে অতিরিক্ত সময় লেগেছিল: ডায়াগনোসিস সহ প্রতিটিতে প্রায় ৪০ মিনিট, ফলে মোট সময় লেগেছিল প্রায় ৯ ঘন্টা ৪০ মিনিট। আটটি স্টিল রাউন্ড মিলিয়ে গড় সময় ছিল ৯ ঘন্টা।

• সর্বোচ্চ আইটি লোড এখনও প্রায় ১৮ কিলোওয়াট। চিপগুলো একই। কিন্তু বিল্ডিংয়ের আচরণ ভিন্ন।

এই নমুনা জুড়ে, একটি রেসিপি সম্পূর্ণ করতে গড় সময় ১৮ ঘন্টা থেকে কমে ৯ ঘন্টায় নেমে এসেছে, অর্থাৎ আটটি রান জুড়ে প্রতিটিতে ৯ ঘন্টা করে মোট ৭২ ঘন্টা। প্রথমবারেই শেষ করার হার ৮ বারের মধ্যে ৫ থেকে বেড়ে ৮ বারের মধ্যে ৮ হয়েছে। থ্রটল ৮ বারের মধ্যে ৭ থেকে কমে ৮ বারের মধ্যে ০ হয়েছে। এই শেষ সংখ্যাটিই বলে দেয় যে তারা অ্যাক্সিলারেটর কিনেছে নাকি পেপারওয়েট। তারা এই সময়ের পরিবর্তনকে উৎপাদনে ৫০% সাশ্রয় বলবে না। আটটি রান একটি ছোট এবং সহজ সেট।.

এই পরিসংখ্যানগুলো উল্লিখিত পরীক্ষা, একটি ছোট নমুনা, একটি মডেল এবং একটি মিশ্র হলের উপর ভিত্তি করে একটি উদাহরণমূলক আনুমানিক হিসাব। এগুলো কোনো PUE (পাবলিক ইউজার এক্সপেন্ডিচার) নয়, কোনো ক্যাম্পাস মেগাওয়াটও নয়, এবং এটি এই প্রমাণও নয় যে কেস্ট্রেলের কোনো মাঠে প্রশিক্ষণ কেন্দ্র নির্মাণ করা উচিত। লগগুলোর পর্যালোচনা ৯ ঘণ্টার মধ্যেই করা হয়েছিল; তারা এটি গোপন করেনি। ১৮ কিলোওয়াটের সংখ্যাটি একটি আনুমানিক PDU রিডিং, কোনো ইউটিলিটি বিল নয়। তারা ৭২ ঘণ্টাকে খরচে রূপান্তর করেনি, কারণ কারখানার মিশ্র বিদ্যুৎ দর একটি ভুয়া ব্যবসায়িক যুক্তি তৈরি করত।.

পরিবেশন যাচাইটি ছিল আলাদা এবং ছোট: বেড়া দেওয়া বাক্সে ২০০টি লাইন ইমেজ, সবই ঘটনাস্থলে। এটি অনুমান, প্রশিক্ষণ নয়। এই দুটিকে মেশানোটা হতো হাইব্রিড-হল ভুলের একটি ক্ষুদ্র সংস্করণ।.

কী ভুল হতে পারে

• ক্রয় বিভাগ চারটি সার্ভারকে "এআই ডেটা সেন্টার" বলে ডাকতে থাকে। এই নামটা ভেতরের কার্যপ্রণালীকে আড়াল করে, এবং পরবর্তী কেনাকাটাটি হলো সেই একই জরাজীর্ণ তাকের জন্য আরও জিপিইউ কেনা।

• পেছনের দরজার এক্সচেঞ্জারগুলো বসানো হয়, কিন্তু জলভাগের দিকটা কেউ চালু করে না। ভক্তরা তখনও চিৎকার করে। ঘড়ির কাঁটা তখনও নিচে নামে।

• ফ্যাব্রিকটি একটিমাত্র সুইচ, যেখানে কোনো অতিরিক্ত পথ নেই। একটি লিঙ্ক বিকল হলেই 'ক্লাস্টার'টি আবার চারটি ওয়ার্কস্টেশনে পরিণত হবে।

• চেকপয়েন্টগুলো SAN-এ থেকে যায় কারণ NVMe পুলটি 'দ্বিতীয় পর্যায়ে' ছিল। পরবর্তী ডেড নোডের আগে দ্বিতীয় পর্যায়টি আসে না।

• তারা একটি মিশ্র হলে দুটি র‍্যাকের জন্য একটি PUE উল্লেখ করে। ক্লাইমেট, বাউন্ডারি এবং ERP সারির বাকি অংশ সেই অনুপাতটিকে একটি প্রথায় পরিণত করে।

• প্রশিক্ষণ এবং পরিষেবা একই কাঠামোয় বোনা। চেকপয়েন্টের চাপ কারখানার উৎপাদন লাইনকে অপেক্ষায় রাখে। সেখানে মূল ফল হলো বিলম্ব, ঘনত্ব নয়।

• একটি নোড বিকল হয়ে যায় এবং কেউ একজন সেটিকে চেকপয়েন্ট রিস্টার্টের পরিবর্তে একটি আপটাইম টিকেট হিসেবে গণ্য করে। এন্টারপ্রাইজ অপস এবং এআই অপস পুরো এক বিকেল ধরে একে অপরের কথা না শুনেই কথা বলে যায়।

• তারা একটি খাঁচা ভাড়া নিতে পারত, কিন্তু ছবিগুলো তো বাইরে যেতে পারে না। সেই সীমাবদ্ধতা ভুলে যাওয়ায় তারা এমন এক অস্পষ্ট আলোচনায় জড়িয়ে পড়ে, যা থেকে তাদের বেরিয়ে আসতে হবে।

ব্যবহারিক শিক্ষা

এই অর্থে একটি এআই ডেটা সেন্টার কোনো গুদামঘর বা জিপিইউ-এর চালান নয়। এটি হলো সেই সেল যা অ্যাক্সিলারেটরগুলোকে তাদের রান শেষ করতে দেয়: পর্যাপ্ত শক্তি, নির্গত হওয়ার মতো তাপ, একটি পরিকাঠামো, একটি চেকপয়েন্ট, এবং কোনো র‍্যাঙ্ক ব্যর্থ হলে দায়বদ্ধ একজন। কেস্ট্রেলের কোনো ক্যাম্পাসের প্রয়োজন ছিল না। ভান করা বন্ধ করতে তাদের দুটি র‍্যাকের প্রয়োজন ছিল। বেশিরভাগ দলেরই এই আচরণটি গ্রহণ করা উচিত। তবে কিছু দল, যাদের কাছে একটি গোপন ডেটাসেট এবং প্রচণ্ড চাপ সহ্য করার মতো একটি হল রয়েছে, তাদের একটি সেল তৈরি করে এই পতনকে প্রত্যাখ্যান করা উচিত।.

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

এআই ডেটা সেন্টার বলতে কী বোঝায়?

এটি একটি উচ্চ-ঘনত্বের কম্পিউট সাইট, যেখানে সাধারণ সার্ভারের সুশৃঙ্খল সারির পরিবর্তে পাওয়ার, কুলিং, নেটওয়ার্কিং এবং স্টোরেজকে প্যারালাল ট্রেনিং ও মডেল সার্ভিংয়ের জন্য বিশেষভাবে ব্যবহার করা হয়। এটি এমনভাবে ডিজাইন করা হয়েছে যাতে বিপুল সংখ্যক অ্যাক্সিলারেটর কোনো রকম সমস্যা, নেটওয়ার্কে আটকে যাওয়া বা ডিস্কে অপেক্ষা করা ছাড়াই মডেল ট্রেনিং ও সার্ভ করতে পারে। একটি সাধারণ এন্টারপ্রাইজ হল হলো একটি মিশ্র এলাকা। কিন্তু একটি এআই হল হলো একটি একক সংস্কৃতি, যার মূল্যের একক হলো অ্যাক্সিলারেটর, যেমন জিপিইউ বা টিপিইউ-ধাঁচের চিপ। এটি দেখতে একটি গুদামঘরের মতো এবং এর আচরণ এমন একটি পাওয়ার স্টেশনের মতো যা গাণিতিক হিসাব কষে।.

একটি এআই ডেটা সেন্টার সাধারণ ডেটা সেন্টার থেকে কীভাবে আলাদা?

প্রচলিত হলগুলো বিভিন্ন ধরনের ওয়ার্কলোড এবং অসংখ্য ছোট ছোট সার্ভিসের আপটাইমের জন্য অপ্টিমাইজ করা হয়। এআই সাইটগুলো এই অনুপাতকে উল্টে দেয়: ডেনসিটি বাড়ে, নেটওয়ার্ক এমন এক কাঠামোতে পরিণত হয় যা ছাড়া ট্রেনিং জব চলতে পারে না, এবং স্টোরেজকে চেকপয়েন্টগুলো সচল রাখতে হয়, নইলে অ্যাক্সিলারেটরগুলো অলস বসে থাকে। এন্টারপ্রাইজ অপস টিকেট এবং চেঞ্জ উইন্ডো নিয়ে ভাবে। এআই অপস জব কিউ এবং দীর্ঘমেয়াদী কাজের শেষের দিকে কোনো নোড বিকল হয়ে যাওয়ার অস্বস্তিকর অনুভূতি নিয়ে ভাবে। আপনি দুটোকেই ডেটা সেন্টার বলতে পারেন। এই নামটি কেবল ভেতরের অভ্যন্তরীণ কাঠামোকে আড়াল করে।.

এআই ডেটা সেন্টারগুলো কেন এত বেশি বিদ্যুৎ ব্যবহার করে?

এর সবচেয়ে উল্লেখযোগ্য হার্ডওয়্যারটি কোনো বুদ্ধিমান সিপিইউ নয়। এটি হলো অ্যাক্সিলারেটর ট্রে: জিপিইউ বা অন্যান্য এআই চিপ, যা সার্ভারে, তারপর র‍্যাকে, এবং তারপর সারিতে সাজানো থাকে এবং একটি উচ্চ-ব্যান্ডউইথ ফ্যাব্রিক শেয়ার করে। প্রতি র‍্যাকের ঘনত্বই হলো আসল চমক: র‍্যাকের সংখ্যা কম, কিন্তু প্রতিটিই যেন এক একটি ছোট চুল্লি। একটি হল পূর্ণ হয়ে গেলেই মেগাওয়াট পরিমাণ আইটি লোড দেখা যায়, যদিও এর কোনো সাধারণ সংখ্যা তৈরি করাটা যুক্তিযুক্ত নয়। সীমাবদ্ধতার কারণটি প্রায়শই সাবস্টেশন, জিপিইউ-এর পছন্দের তালিকা নয়।.

এআই ডেটা সেন্টারগুলোকে কীভাবে ঠান্ডা করা হয়?

উচ্চ-ঘনত্বের র‍্যাকগুলো এমনভাবে তাপ নির্গত করে, যা সামলানোর জন্য বাতাসকে আগে তেমনভাবে ভাবা হয়নি। আপনি রিয়ার-ডোর হিট এক্সচেঞ্জার, উষ্ণতর করিডোর এবং বুদ্ধিদীপ্ত আবদ্ধকরণ ব্যবস্থার মাধ্যমে বাতাসকে আরও জোরালোভাবে প্রবাহিত করতে পারেন। এরপর আসে তরলের ব্যবহার: সরাসরি চিপে শীতলীকরণ, কুল্যান্ট লুপ এবং কিছু ডিজাইনে নিমজ্জন। যে অ্যাক্সিলারেটর তার গতি কমিয়ে দেয়, সেটি এমন একটি যন্ত্র যার জন্য আপনি ইতিমধ্যেই অর্থ প্রদান করেছেন কিন্তু পুরোপুরি ব্যবহার করতে পারছেন না। PUE (পাওয়ার ইউজ এফিসিয়েন্সি) এখনও গুরুত্বপূর্ণ, কারণ ফ্যান এবং পাম্পে ব্যয় হওয়া প্রতিটি ওয়াট হলো এমন একটি ওয়াট যা জিপিইউ-তে যায়নি। এই কাহিনিতে জলেরও একটি ভূমিকা রয়েছে: কিছু গাছ অল্প জল পান করে, কিছু আবার ঢকঢক করে গিলে নেয়।.

জিপিইউ-এর মতোই নেটওয়ার্কিং কেন গুরুত্বপূর্ণ?

ট্রেনিং হলো একটি কথোপকথন: হাজার হাজার অ্যাক্সিলারেটর অত্যন্ত নিখুঁতভাবে সমন্বয় করে গ্রেডিয়েন্ট, প্যারামিটার এবং একটি মডেলের বিভিন্ন অংশ আদান-প্রদান করে। যদি ফ্যাব্রিকে কোনো সমস্যা হয়, তবে পুরো কাজটি সবচেয়ে ধীরগতির হপ-এর জন্য অপেক্ষা করতে থাকে। এ কারণেই এআই বিশেষজ্ঞরা উচ্চ-ব্যান্ডউইথ নেটওয়ার্কিং, কম ল্যাটেন্সি, একই ভূমিকায় ইনফিনিব্যান্ড-সদৃশ ফ্যাব্রিক বা ইথারনেট এবং এমন টপোলজি নিয়ে মাথা ঘামান যা কোনো একটি লিঙ্ক বিকল হয়ে গেলেও ভেঙে পড়ে না। ইনফারেন্সের ক্ষেত্রে টেইল ল্যাটেন্সি, অসংখ্য ছোট ছোট রিকোয়েস্ট এবং আইসোলেশন গুরুত্বপূর্ণ। এই প্রতিষ্ঠানে, প্লাম্বিং ব্যবস্থাই হলো আসল রেস্তোরাঁ।.

একটি এআই ডেটা সেন্টার কীসের জন্য ব্যবহৃত হয়: ট্রেনিং নাকি ইনফারেন্সের জন্য?

ট্রেনিং হলো একটি অভিযান: একটি ক্লাস্টার তৈরি করা, তাতে ডেটা সরবরাহ করা, নিয়ম মেনে চেকপয়েন্ট সেট করা এবং ঘণ্টার পর ঘণ্টা বা সপ্তাহের পর সপ্তাহ ধরে তা চালানো। ইনফারেন্স হলো একটি দোকানঘর: আগে থেকেই প্রশিক্ষিত মডেল, যা এখন গুরুত্বপূর্ণ ল্যাটেন্সিতে সাড়া দিচ্ছে। ট্রেনিং ক্যাম্পাসগুলো শক্তি, জমি এবং ঘনত্বের পেছনে ছোটে। ইনফারেন্স সাইটগুলো ল্যাটেন্সি এবং উপস্থিতির পেছনে ছোটে। হাইব্রিড হলগুলোর অস্তিত্ব রয়েছে কারণ পুঁজি অসীম নয়; কখনও কখনও একটি হলের সাথে দুটি কুলিং লুপ থাকে। গ্রাহকের কাছাকাছি থাকা সামান্য পুরোনো একটি অ্যাক্সিলারেটর এক মহাদেশ দূরের একটি জাঁকজমকপূর্ণ অ্যাক্সিলারেটরকে ছাড়িয়ে যেতে পারে।.

একটি এআই ডেটা সেন্টারে স্টোরেজ কেন গুরুত্বপূর্ণ?

ট্রেনিং ডেটা এত দ্রুত আসতে হবে যাতে জিপিইউ-গুলোকে অধৈর্য হতে না হয়। চেকপয়েন্টগুলো এমনভাবে লোড হতে হবে যাতে কোনো ক্র্যাশের কারণে এক সপ্তাহের ডেটা নষ্ট না হয়ে যায়। একটি সার্ভিং রেপ্লিকা লাইভ হওয়ার আগেই মডেলের ওয়েটগুলো লোড হতে হবে। শুধু ধারণক্ষমতাই নয়, স্টোরেজের থ্রুপুটও একটি নীরব প্রতিবন্ধকতা। আপনি অ্যাক্সিলারেটরের পেছনে বিপুল অর্থ ব্যয় করতে পারেন, কিন্তু ভার্চুয়াল মেশিনের জন্য ডিজাইন করা একটি সাধারণ অ্যারে দিয়ে সেগুলোকে অপ্রতুল করে ফেলতে পারেন।.

রান চলাকালীন কোনো নোড অকার্যকর হয়ে গেলে কী হয়?

একটি নিবিড়ভাবে সংযুক্ত ট্রেনিং জবের মধ্যে একটি অ্যাক্সেলারেটর বিকল হয়ে গেলে পুরো প্রক্রিয়াটিই থেমে যেতে পারে। ট্রেনিংয়ের জন্য চেকপয়েন্ট প্রয়োজন, আশাবাদ নয়। ইনফারেন্স প্রক্রিয়াটি অসুস্থ নোডের শক্তি নিষ্কাশন করে, একটি রেপ্লিকাকে সচল রাখে এবং নিজে লাইভ থাকে। পরিবর্তনের সময়সীমা এখনও এমন ট্রেনিং রানের সাথে সাংঘর্ষিক হয়, যেগুলো আপনার ক্যালেন্ডারের তোয়াক্কা করে না। পাওয়ার, কুলিং, পাথ এবং স্টোরেজের জন্য রিডানডেন্সি এখনও গুরুত্বপূর্ণ, কিন্তু এর ব্যর্থতার ধরণটি পুরোনো ‘নাইনস-অফ-আপটাইম’ স্লাইডের মতো অতটা সুশৃঙ্খল নয়।.

গ্রিড, পানি এবং প্রতিবেশীদের উপর একটি এআই ডেটা সেন্টারের প্রভাব কী?

গ্রিড সংযোগই প্রায়শই আসল স্থান-নির্বাচন প্রক্রিয়া। একটি সাবস্টেশন এবং অন্যান্য গ্রাহক থাকা কোনো ইউটিলিটির তুলনায় জমি নির্বাচন করা সহজ। শীতলীকরণের জন্য জল ব্যবহার করলে, বৃষ্টিপাত সামান্য বাড়লেই তা প্রতিবেশীর জন্য একটি সমস্যা হয়ে দাঁড়ায়; এর সাথে যুক্ত হয় শব্দ, দৃশ্যমান বিশালতা এবং সীমানার বেড়ার কাছের তাপ। সস্তা বিদ্যুতের বাজার এবং শীতল জলবায়ুতে প্রশিক্ষণ কাজে লাগতে পারে। অনুমান করা যায় যে এটি ব্যবহারকারীদের কাছাকাছি থাকতে পছন্দ করে। কোনো একটি নিখুঁত স্থান নেই। একটি প্রেস রিলিজের মাধ্যমে একটি আপোস করা যেতে পারে।.

আমার কি একটি এআই ডেটা সেন্টারের মালিক হওয়া প্রয়োজন, নাকি ভাড়া নেওয়া উচিত?

বেশিরভাগ মানুষের এই হলগুলোর কোনোটির মালিক হওয়ার প্রয়োজন নেই। হাইপারস্কেলাররা তাদের পরিকাঠামো তৈরি করে, কারণ তাদের পণ্যই হলো পরিকাঠামোর বহর। ল্যাবগুলো তখন পরিকাঠামো তৈরি করে, যখন অপেক্ষার সময় (queue time) একটি প্রতিবন্ধকতা হয়ে দাঁড়ায় অথবা ডেটা বাইরে যেতে পারে না। একটি ব্যাংক, হাসপাতাল, সরকার বা উৎপাদনকারী প্রতিষ্ঠান, যাদের একটি গোপন ডেটাসেট আছে, তাদের জন্য নিজস্ব পরিকাঠামো (on-prem) বা একটি ব্যক্তিগত কোলোকেশন (private colocage) স্থাপন করা যুক্তিসঙ্গত। বাকি সবার ভাড়া নেওয়া উচিত: এআই-রেডি কোলোকেশন (AI-ready colocation), একটি ক্লাউড রিজার্ভেশন (cloudreservation), বা একটি পরিচালিত ক্লাস্টার (managed cluster)। এর মাধ্যমে আপনি বিদ্যুৎকেন্দ্রের অপারেটর না হয়েই অ্যাক্সিলারেটরগুলো ব্যবহারের সুযোগ পান।.

তথ্যসূত্র

1. আইইএ - www.iea.org

2. LBNL - datacenters.lbl.gov

3. দ্য গ্রিন গ্রিড - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. আপটাইম ইনস্টিটিউট - journal.uptimeinstitute.com

7. এনভিডিয়া - developer.nvidia.com

8. এনভিডিয়া - docs.nvidia.com

9. এনভিডিয়া - docs.nvidia.com

10. এনভিডিয়া - docs.nvidia.com

11. গুগল ক্লাউড - docs.cloud.google.com

অফিসিয়াল এআই অ্যাসিস্ট্যান্ট স্টোরে সর্বশেষ এআই খুঁজুন

আমাদের সম্পর্কে