নিবন্ধ · সার্ভার
একটি গ্রাফিক্স কার্ড, একটি সার্ভার কক্ষ, ইন্টারনেট লাগে না।
নিজের সার্ভারে সুপার ইন্টেলিজেন্স (SI) মানে একটি র্যাক সার্ভার, ভেতরে একটি বা দুটি গ্রাফিক্স কার্ড। যাঁরা এর জন্য সই করেন, তাঁদের জন্য এই নিবন্ধ বলে সেই সার্ভারে কী থাকে, বিদ্যুৎ কতটা টানে আর কী নষ্ট হতে পারে।
যন্ত্রটি
একটি সার্ভার বলতে কী বোঝায়
Bahlul SI সার্ভার একটি সাধারণ র্যাক সার্ভার, যার ভেতরে একটি গ্রাফিক্স কার্ড, অর্থাৎ জিপিইউ, থাকে। ভাষা মডেলের ভারী হিসাবটা করে এই কার্ড। সার্ভারের বাকি অংশে থাকে আপনার নথির সার্চ ইনডেক্স, অনুমতি, লগ আর অ্যাডমিন কনসোল। এটি থাকে আপনার সার্ভার কক্ষে বা বাংলাদেশের কোনো ডেটা সেন্টারে, আপনার নিজের নেটওয়ার্কে, ইন্টারনেটে যাওয়ার কোনো পথ ছাড়া।
আমরা তিনটি কনফিগারেশনে এর মাপ ঠিক করি। “দল”: একটি ৩২ জিবি কার্ড, প্রায় ৫০ জন ব্যবহারকারী পর্যন্ত, হার্ডওয়্যার প্রায় ৳১২ থেকে ১৫ লাখ। “বিভাগ”: একটি ৪৮ জিবি ডেটা সেন্টার কার্ড, কয়েকশো ব্যবহারকারীর জন্য, ৳১৭ থেকে ২২ লাখ। “প্রতিষ্ঠান”: দুটি ৯৬ জিবি কার্ড, ১,০০০ বা তার বেশি ব্যবহারকারীর জন্য, ৳৫৫ থেকে ৬৫ লাখ। এগুলো ২০২৬ সালের আনুমানিক মূল্য, শুল্ক ও ভ্যাট ছাড়া। ২০২৬ সালে জিপিইউর দাম অনেক ওঠানামা করেছে, তাই সরবরাহকারীর কাছ থেকে নতুন দর নিন। সার্ভার আপনি সরাসরি কেনেন; কোনটি কিনবেন তা আমরা ঠিক করে দিই ও যাচাই করি। বিস্তারিত আছে সার্ভারের পাতায়।
সীমা
কার্ডের মেমরিই সীমা ঠিক করে
কার্ডের মেমরি দুটি জিনিস ঠিক করে: কত বড় মডেল ধরবে, আর একই মুহূর্তে কতজন প্রশ্ন করতে পারবেন। ১,৪০০ কোটি (১৪ বিলিয়ন) প্যারামিটারের একটি মডেল ৮ বিটে প্রায় ১৭ জিবি নেয়। তারপর প্রতিটি চালু কথোপকথন খানিকটা জায়গা নেয়; ওই মাপের মডেলে ৪,০৯৬ টোকেনের কনটেক্সটে প্রায় ০.৮ জিবি। একটি ৪৮ জিবি কার্ডে মডেল আর ছোট সহায়ক মডেলগুলোর পর একসঙ্গে প্রায় ২৭ জনের প্রশ্ন করার জায়গা থাকে। প্রতি দশজন ব্যবহারকারীর একজন যেকোনো মুহূর্তে সক্রিয় থাকলে, তা দাঁড়ায় প্রায় ২৭০ জন ব্যবহারকারীতে।
এই হিসাব এসেছে বিক্রেতাদের সাইজিং গাইড আর প্রতিটি মডেলের নিজস্ব কনফিগারেশন ফাইল থেকে। এটি পরীক্ষা করে দেখার মতো একটি অনুমান, প্রতিশ্রুতি নয়। মেমরি দেখায় মডেল ধরবে কি না; উত্তর যথেষ্ট দ্রুত আসবে কি না, তা নয়। তাই লোড টেস্টে মাপার আগে কোনো প্রস্তাবে ব্যবহারকারীর সংখ্যা লেখা হয় না; সেই লোড টেস্ট তিন সপ্তাহের SI যাচাইয়ের অংশ।
এ থেকে তিনটি নিয়ম আসে। সীমার ওপরে গেলে অনুরোধ সারিতে দাঁড়ায় আর উত্তর ধীর হয়; গেটওয়ের অনুরোধ-সীমা সেবাটি চালু রাখে। কনটেক্সটের দৈর্ঘ্য দ্বিগুণ করলে একসঙ্গে ব্যবহারকারীর সংখ্যা মোটামুটি অর্ধেক হয়; সে কারণেই Bahlul SI মডেলকে পাঠায় কেবল সবচেয়ে প্রাসঙ্গিক অংশগুলো, কখনো পুরো ফাইল নয়। আর অনেক উন্মুক্ত মডেল একই লেখায় ইংরেজির চেয়ে বাংলায় বেশি টোকেন খরচ করে, তাই টেস্ট বেঞ্চ গতি মাপে বাংলায়, ইংরেজিতে নয়।
বিদ্যুৎ ও তাপ
বিদ্যুৎ কতটা টানে
এক কার্ডের সার্ভারের জন্য পূর্ণ লোডে প্রায় ১ কিলোওয়াট ধরে পরিকল্পনা করুন। নকশার অনুমান: কার্ড প্রায় ৩০০ থেকে ৩৫০ ওয়াট, সার্ভারের বাকি অংশ প্রায় ৬০০ ওয়াট, আর একই লাইনে থাকা সুইচের জন্য ১০০ ওয়াট। তুলনার জন্য, একটি ৪৮ জিবি ডেটা সেন্টার কার্ডের নির্মাতার ডেটা শিটে সর্বোচ্চ ৩৫০ ওয়াট লেখা আছে (NVIDIA L40S, পড়া হয়েছে ১০ অক্টোবর ২০২৬)। আপনার কার্ড আলাদা হতে পারে। ইলেকট্রিশিয়ান সার্কিটের মাপ ঠিক করার আগে সরবরাহকারীর পাওয়ার ক্যালকুলেটরে অঙ্কগুলো মিলিয়ে নিন।
প্রতিটি ওয়াট তাপে পরিণত হয়। এক ওয়াট মানে ঘণ্টায় ৩.৪১২ বিটিইউ, তাই ১ কিলোওয়াটের সার্ভার ঘরে ঘণ্টায় প্রায় ৩,৪০০ বিটিইউ তাপ যোগ করে; এক টনের একটি এয়ার কন্ডিশনার যা সরায়, তার মোটামুটি এক-তৃতীয়াংশ। দুই কার্ডের “প্রতিষ্ঠান” সার্ভারে কার্ডের অঙ্কটি মোটামুটি দ্বিগুণ হয়। চালানোর খরচও একই সংখ্যা ধরে চলে: মাসে ৭৩০ ঘণ্টায় ১ কিলোওয়াট মানে প্রায় ৭৩০ কিলোওয়াট-ঘণ্টা। কিলোওয়াট-ঘণ্টায় ৳১০ দর ধরলে (এটি একটি অনুমান; এর জায়গায় আপনার নিজের বিলের দর বসান) তা শীতলীকরণ ছাড়া মাসে প্রায় ৳৭,৩০০। এখানে মূল বিদ্যুৎ লাইন ২২০ ভোল্ট, ৫০ হার্টজ; সরেজমিনে নিশ্চিত হয়ে নিন।
বিদ্যুৎ-বিভ্রাট
ইউপিএস আর নিরাপদে বন্ধ হওয়া
বিদ্যুৎ-বিভ্রাট নকশার একটি শর্ত, ব্যতিক্রম নয়। সার্ভার থাকে নেটওয়ার্ক কার্ডসহ একটি অনলাইন ডাবল-কনভার্শন ইউপিএসের পেছনে। অল্প সময়ের বিভ্রাট ইউপিএস নিজেই সামলে নেয়। বিদ্যুৎ না ফিরলে নির্ধারিত কয়েক মিনিট পর ইউপিএস সার্ভারকে নিরাপদে বন্ধ হতে বলে, যাতে ইনডেক্স আর ডেটাবেস কখনো অর্ধেক লেখা অবস্থায় পড়ে না থাকে। বিদ্যুৎ ফিরলে সেবাগুলো নিজে থেকেই পর্যায়ক্রমে আবার চালু হয়।
মাপের হিসাব সহজ। লোডকে ০.৯ পাওয়ার ফ্যাক্টর দিয়ে ভাগ, তারপর ১.২৫ গুণ বাড়তি জায়গা, যাতে ইউপিএস কখনো ৮০%-এর ওপরে না চলে: ১ কিলোওয়াট লোডে লাগে প্রায় ১,৪০০ ভিএ, তাই “দল”-এর জন্য ২ কেভিএ ইউনিট। “বিভাগ”-এর পরিকল্পনা ৩ কেভিএ, “প্রতিষ্ঠান”-এর ৬ কেভিএ ও একটি জেনারেটর। নকশার ভিত্তি পূর্ণ লোডে ব্যাটারিতে অন্তত ১৫ মিনিট, ব্যাটারির আয়ুর শেষ সময় ধরে মাপা আর সরেজমিন জরিপে নিশ্চিত করা। জেনারেটর থাকলে ইউপিএসকে কেবল তা চালু হওয়ার সময়টুকু সামাল দিতে হয়।
কী নষ্ট হয়
একটি সার্ভার, বিকল হওয়ার একটি জায়গা
নকশাটি বিদ্যুৎ-বিভ্রাট আর একটি ড্রাইভ নষ্ট হওয়া সামলে নেয়, কারণ ড্রাইভগুলো মিরর করা আর প্রতি রাতে আপনার নিজের ব্যাকআপ গন্তব্যে ব্যাকআপ চলে। এর কোনো স্ট্যান্ডবাই সার্ভার নেই। কার্ড বা মাদারবোর্ড নষ্ট হলে সেবা বন্ধ থাকে যতক্ষণ না সরবরাহকারী তিন বছরের অন-সাইট ওয়ারেন্টিতে তা সারায়, যে ওয়ারেন্টি আমরা আপনাকে কিনতে বলি; অথবা প্রসেসরে ধীরগতির বিকল্পে চলে। আপনার প্রতিষ্ঠান তা মেনে নিতে না পারলে দ্বিতীয় সার্ভারের পরিধি আলাদাভাবে ঠিক করা হয়।
আপডেট আসে প্রতি মাসে, হার্ডওয়্যার-এনক্রিপ্ট করা ইউএসবি ড্রাইভে, চেকসামের তালিকাসহ; ব্যাকআপের পর রক্ষণাবেক্ষণের নির্ধারিত সময়ে তা বসানো হয়, আর কোনো যাচাই ব্যর্থ হলে আগের অবস্থায় ফেরানো হয়। ওই ড্রাইভে আপনার সার্ভার থেকে কিছুই বাইরে যায় না। বিদেশে একই রকম কার্ড ভাড়া নিতে ঘণ্টায় প্রায় USD ১.০৯ লাগে (পরিকল্পনার এই অঙ্কটি যাচাই করে নিতে হবে); সারাক্ষণ চালু রাখলে তা মাসে প্রায় ৳৯৮,০০০, আর তাতে আপনার ডেটা দেশের বাইরে যায়। সে কারণেই ভাড়ার কার্ড কেবল আমাদের ল্যাবে ব্যবহার হয়।
FAQ
যে প্রশ্নগুলো আমরা শুনি
আমাদের আগে থেকে থাকা সার্ভার কি ব্যবহার করা যাবে?
হয়তো। তাতে লাগবে টেস্ট বেঞ্চের বেছে নেওয়া মডেলের জন্য যথেষ্ট মেমরির একটি কার্ড, মিরর করা ড্রাইভ আর ইউপিএসের জায়গা। SI যাচাইয়ে আমরা তা পরীক্ষা করি, আর না চললে স্পষ্ট করে বলি।
আমাদের কি জেনারেটর লাগবে?
“দল” বা “বিভাগ”-এর জন্য নয়, যদি দীর্ঘ বিভ্রাটে নিরাপদে বন্ধ হওয়া আপনার কাছে গ্রহণযোগ্য হয়; সেটি ইউপিএসই সামলায়। “প্রতিষ্ঠান”-এর পরিকল্পনায় জেনারেটর আছে, কারণ ১,০০০ ব্যবহারকারী আশা করেন সেবা চালু থাকবে।
কার্ড নষ্ট হলে সারায় কে?
আপনার সরবরাহকারী, অন-সাইট ওয়ারেন্টিতে। হার্ডওয়্যার ফিরে এলে আমরা সেবাটি আবার চালু করি; ইনডেক্স ও সেটিংস আসে আপনার নিজের ব্যাকআপ থেকে।
দর নেওয়ার আগে স্পেসিফিকেশন নিন
SI যাচাই আপনার নথি ও ব্যবহারকারী অনুযায়ী সার্ভারের মাপ ঠিক করে, যাতে সরবরাহকারী সঠিক যন্ত্রের দর দেন। তিন সপ্তাহ, ৳৫.৫ লাখ।