Node.js কোডল্যাবে TensorFlow.js প্রশিক্ষণ

১. ভূমিকা

এই কোডল্যাবে, আপনি শিখবেন কীভাবে জাভাস্ক্রিপ্টের জন্য একটি শক্তিশালী ও নমনীয় মেশিন লার্নিং লাইব্রেরি TensorFlow.js ব্যবহার করে সার্ভার-সাইডে বেসবল পিচের ধরন প্রশিক্ষণ ও শ্রেণীবদ্ধ করার জন্য একটি Node.js ওয়েব সার্ভার তৈরি করতে হয়। আপনি পিচ সেন্সর ডেটা থেকে পিচের ধরন অনুমান করার জন্য একটি মডেলকে প্রশিক্ষণ দিতে এবং একটি ওয়েব ক্লায়েন্ট থেকে সেই অনুমানকে কার্যকর করতে একটি ওয়েব অ্যাপ্লিকেশন তৈরি করবেন। এই কোডল্যাবটির একটি সম্পূর্ণ কার্যকরী সংস্করণ tfjs-examples গিটহাব রিপোজিটরিতে রয়েছে।

আপনি যা শিখবেন

  • Node.js-এর সাথে ব্যবহারের জন্য tensorflow.js npm প্যাকেজটি কীভাবে ইনস্টল ও সেটআপ করবেন।
  • Node.js পরিবেশে ট্রেনিং এবং টেস্ট ডেটা কীভাবে অ্যাক্সেস করবেন।
  • Node.js সার্ভারে TensorFlow.js ব্যবহার করে কীভাবে একটি মডেলকে প্রশিক্ষণ দেওয়া যায়।
  • ক্লায়েন্ট/সার্ভার অ্যাপ্লিকেশনে ইনফারেন্সের জন্য প্রশিক্ষিত মডেলটি কীভাবে স্থাপন করবেন।

তাহলে চলুন শুরু করা যাক!

২. প্রয়োজনীয়তা

এই কোডল্যাবটি সম্পন্ন করতে আপনার প্রয়োজন হবে:

  1. ক্রোমের সাম্প্রতিক সংস্করণ অথবা অন্য কোনো আধুনিক ব্রাউজার।
  2. আপনার মেশিনে স্থানীয়ভাবে চলমান একটি টেক্সট এডিটর এবং কমান্ড টার্মিনাল।
  3. এইচটিএমএল, সিএসএস, জাভাস্ক্রিপ্ট এবং ক্রোম ডেভটুলস (অথবা আপনার পছন্দের ব্রাউজারের ডেভটুলস) সম্পর্কে জ্ঞান।
  4. নিউরাল নেটওয়ার্ক সম্পর্কে একটি উচ্চ-স্তরের ধারণাগত বোঝাপড়া। যদি আপনার একটি ভূমিকা বা পুনর্নবীকরণের প্রয়োজন হয়, তাহলে 3blue1brown-এর এই ভিডিওটি অথবা আশি কৃষ্ণানের জাভাস্ক্রিপ্টে ডিপ লার্নিং-এর উপর এই ভিডিওটি দেখতে পারেন।

৩. একটি Node.js অ্যাপ তৈরি করুন

Node.js এবং npm ইনস্টল করুন। সমর্থিত প্ল্যাটফর্ম ও নির্ভরতা সম্পর্কে জানতে, অনুগ্রহ করে tfjs-node ইনস্টলেশন গাইডটি দেখুন।

আমাদের Node.js অ্যাপের জন্য ./baseball নামে একটি ডিরেক্টরি তৈরি করুন। npm প্যাকেজ নির্ভরতা (যার মধ্যে @tensorflow/tfjs-node npm প্যাকেজটিও অন্তর্ভুক্ত) কনফিগার করার জন্য লিঙ্ক করা package.json এবং webpack.config.js ফাইল দুটি এই ডিরেক্টরিতে কপি করুন। এরপর নির্ভরতাগুলো ইনস্টল করার জন্য npm install কমান্ডটি চালান।

$ cd baseball
$ ls
package.json  webpack.config.js
$ npm install
...
$ ls
node_modules  package.json  package-lock.json  webpack.config.js

এখন আপনি কোড লিখে একটি মডেলকে প্রশিক্ষণ দেওয়ার জন্য প্রস্তুত!

৪. প্রশিক্ষণ এবং পরীক্ষার ডেটা সেটআপ করুন

আপনি নীচের লিঙ্কগুলি থেকে CSV ফাইল হিসাবে প্রশিক্ষণ এবং পরীক্ষার ডেটা ব্যবহার করবেন। এই ফাইলগুলিতে থাকা ডেটা ডাউনলোড করে অন্বেষণ করুন:

pitch_type_training_data.csv

পিচ_টাইপ_টেস্ট_ডেটা.csv

চলুন কিছু নমুনা প্রশিক্ষণ ডেটা দেখা যাক:

vx0,vy0,vz0,ax,ay,az,start_speed,left_handed_pitcher,pitch_code
7.69914900671662,-132.225686405648,-6.58357157666866,-22.5082591074995,28.3119270826735,-16.5850095967027,91.1,0,0
6.68052308575228,-134.215511616881,-6.35565979491619,-19.6602769147989,26.7031848314466,-14.3430602022656,92.4,0,0
2.56546504690782,-135.398673977074,-2.91657310799559,-14.7849950586111,27.8083916890792,-21.5737737390901,93.1,0,0

আটটি ইনপুট বৈশিষ্ট্য রয়েছে - যা পিচ সেন্সর ডেটা বর্ণনা করে:

  • বলের বেগ (vx0, vy0, vz0)
  • বলের ত্বরণ (ax, ay, az)
  • পিচের প্রারম্ভিক গতি
  • পিচার বাঁ-হাতি কি না

এবং একটি আউটপুট লেবেল:

  • পিচ_কোড যা সাত ধরনের পিচের মধ্যে একটিকে নির্দেশ করে: Fastball (2-seam), Fastball (4-seam), Fastball (sinker), Fastball (cutter), Slider, Changeup, Curveball

লক্ষ্য হলো এমন একটি মডেল তৈরি করা যা পিচ সেন্সর ডেটার ভিত্তিতে পিচের ধরন ভবিষ্যদ্বাণী করতে সক্ষম।

মডেল তৈরি করার আগে, আপনাকে ট্রেনিং এবং টেস্ট ডেটা প্রস্তুত করতে হবে। baseball/ ডিরেক্টরিতে pitch_type.js ফাইলটি তৈরি করুন এবং নিচের কোডটি এর মধ্যে কপি করুন। এই কোডটি tf.data.csv API ব্যবহার করে ট্রেনিং এবং টেস্ট ডেটা লোড করে। এটি একটি মিন-ম্যাক্স নর্মালাইজেশন স্কেল ব্যবহার করে ডেটা নর্মালাইজও করে (যা সর্বদা সুপারিশ করা হয়)।

const tf = require('@tensorflow/tfjs');

// util function to normalize a value between a given range.
function normalize(value, min, max) {
  if (min === undefined || max === undefined) {
    return value;
  }
  return (value - min) / (max - min);
}

// data can be loaded from URLs or local file paths when running in Node.js.
const TRAIN_DATA_PATH =
'https://storage.googleapis.com/mlb-pitch-data/pitch_type_training_data.csv';
const TEST_DATA_PATH =    'https://storage.googleapis.com/mlb-pitch-data/pitch_type_test_data.csv';

// Constants from training data
const VX0_MIN = -18.885;
const VX0_MAX = 18.065;
const VY0_MIN = -152.463;
const VY0_MAX = -86.374;
const VZ0_MIN = -15.5146078412997;
const VZ0_MAX = 9.974;
const AX_MIN = -48.0287647107959;
const AX_MAX = 30.592;
const AY_MIN = 9.397;
const AY_MAX = 49.18;
const AZ_MIN = -49.339;
const AZ_MAX = 2.95522851438373;
const START_SPEED_MIN = 59;
const START_SPEED_MAX = 104.4;

const NUM_PITCH_CLASSES = 7;
const TRAINING_DATA_LENGTH = 7000;
const TEST_DATA_LENGTH = 700;

// Converts a row from the CSV into features and labels.
// Each feature field is normalized within training data constants
const csvTransform =
    ({xs, ys}) => {
      const values = [
        normalize(xs.vx0, VX0_MIN, VX0_MAX),
        normalize(xs.vy0, VY0_MIN, VY0_MAX),
        normalize(xs.vz0, VZ0_MIN, VZ0_MAX), normalize(xs.ax, AX_MIN, AX_MAX),
        normalize(xs.ay, AY_MIN, AY_MAX), normalize(xs.az, AZ_MIN, AZ_MAX),
        normalize(xs.start_speed, START_SPEED_MIN, START_SPEED_MAX),
        xs.left_handed_pitcher
      ];
      return {xs: values, ys: ys.pitch_code};
    }

const trainingData =
    tf.data.csv(TRAIN_DATA_PATH, {columnConfigs: {pitch_code: {isLabel: true}}})
        .map(csvTransform)
        .shuffle(TRAINING_DATA_LENGTH)
        .batch(100);

// Load all training data in one batch to use for evaluation
const trainingValidationData =
    tf.data.csv(TRAIN_DATA_PATH, {columnConfigs: {pitch_code: {isLabel: true}}})
        .map(csvTransform)
        .batch(TRAINING_DATA_LENGTH);

// Load all test data in one batch to use for evaluation
const testValidationData =
    tf.data.csv(TEST_DATA_PATH, {columnConfigs: {pitch_code: {isLabel: true}}})
        .map(csvTransform)
        .batch(TEST_DATA_LENGTH);

৫. পিচের প্রকারভেদ শ্রেণীবদ্ধ করার জন্য মডেল তৈরি করুন।

এখন আপনি মডেলটি তৈরি করার জন্য প্রস্তুত। tf.layers API ব্যবহার করে ইনপুটগুলিকে ([8] পিচ সেন্সর মানের আকৃতি) 3টি হিডেন ফুলি-কানেক্টেড লেয়ারের সাথে সংযুক্ত করুন, যেগুলি ReLU অ্যাক্টিভেশন ইউনিট দ্বারা গঠিত, এবং তারপরে 7টি ইউনিট সমন্বিত একটি সফটম্যাক্স আউটপুট লেয়ার থাকবে, যার প্রতিটি আউটপুট পিচ প্রকারের একটিকে প্রতিনিধিত্ব করবে।

অ্যাডাম অপটিমাইজার এবং স্পার্সক্যাটাগরিক্যালক্রসএন্ট্রপি লস ফাংশন ব্যবহার করে মডেলটিকে প্রশিক্ষণ দিন। এই বিকল্পগুলো সম্পর্কে আরও তথ্যের জন্য, মডেল প্রশিক্ষণ নির্দেশিকাটি দেখুন।

pitch_type.js ফাইলের শেষে নিম্নলিখিত কোডটি যোগ করুন:

const model = tf.sequential();
model.add(tf.layers.dense({units: 250, activation: 'relu', inputShape: [8]}));
model.add(tf.layers.dense({units: 175, activation: 'relu'}));
model.add(tf.layers.dense({units: 150, activation: 'relu'}));
model.add(tf.layers.dense({units: NUM_PITCH_CLASSES, activation: 'softmax'}));

model.compile({
  optimizer: tf.train.adam(),
  loss: 'sparseCategoricalCrossentropy',
  metrics: ['accuracy']
});

আপনি পরে যে মূল সার্ভার কোডটি লিখবেন, সেখান থেকে প্রশিক্ষণটি চালু করুন।

pitch_type.js মডিউলটি সম্পূর্ণ করতে, চলুন ভ্যালিডেশন ও টেস্ট ডেটা সেট মূল্যায়ন, একটিমাত্র স্যাম্পলের জন্য পিচের ধরন অনুমান এবং নির্ভুলতার মেট্রিক গণনা করার জন্য একটি ফাংশন লিখি। এই কোডটি pitch_type.js ফাইলের শেষে যুক্ত করুন:

// Returns pitch class evaluation percentages for training data
// with an option to include test data
async function evaluate(useTestData) {
  let results = {};
  await trainingValidationData.forEachAsync(pitchTypeBatch => {
    const values = model.predict(pitchTypeBatch.xs).dataSync();
    const classSize = TRAINING_DATA_LENGTH / NUM_PITCH_CLASSES;
    for (let i = 0; i < NUM_PITCH_CLASSES; i++) {
      results[pitchFromClassNum(i)] = {
        training: calcPitchClassEval(i, classSize, values)
      };
    }
  });

  if (useTestData) {
    await testValidationData.forEachAsync(pitchTypeBatch => {
      const values = model.predict(pitchTypeBatch.xs).dataSync();
      const classSize = TEST_DATA_LENGTH / NUM_PITCH_CLASSES;
      for (let i = 0; i < NUM_PITCH_CLASSES; i++) {
        results[pitchFromClassNum(i)].validation =
            calcPitchClassEval(i, classSize, values);
      }
    });
  }
  return results;
}

async function predictSample(sample) {
  let result = model.predict(tf.tensor(sample, [1,sample.length])).arraySync();
  var maxValue = 0;
  var predictedPitch = 7;
  for (var i = 0; i < NUM_PITCH_CLASSES; i++) {
    if (result[0][i] > maxValue) {
      predictedPitch = i;
      maxValue = result[0][i];
    }
  }
  return pitchFromClassNum(predictedPitch);
}

// Determines accuracy evaluation for a given pitch class by index
function calcPitchClassEval(pitchIndex, classSize, values) {
  // Output has 7 different class values for each pitch, offset based on
  // which pitch class (ordered by i)
  let index = (pitchIndex * classSize * NUM_PITCH_CLASSES) + pitchIndex;
  let total = 0;
  for (let i = 0; i < classSize; i++) {
    total += values[index];
    index += NUM_PITCH_CLASSES;
  }
  return total / classSize;
}

// Returns the string value for Baseball pitch labels
function pitchFromClassNum(classNum) {
  switch (classNum) {
    case 0:
      return 'Fastball (2-seam)';
    case 1:
      return 'Fastball (4-seam)';
    case 2:
      return 'Fastball (sinker)';
    case 3:
      return 'Fastball (cutter)';
    case 4:
      return 'Slider';
    case 5:
      return 'Changeup';
    case 6:
      return 'Curveball';
    default:
      return 'Unknown';
  }
}

module.exports = {
  evaluate,
  model,
  pitchFromClassNum,
  predictSample,
  testValidationData,
  trainingData,
  TEST_DATA_LENGTH
}

৬. সার্ভারে মডেলটিকে প্রশিক্ষণ দিন

server.js নামের একটি নতুন ফাইলে মডেল প্রশিক্ষণ এবং মূল্যায়নের জন্য সার্ভার কোড লিখুন। প্রথমে, একটি HTTP সার্ভার তৈরি করুন এবং socket.io API ব্যবহার করে একটি দ্বিমুখী সকেট সংযোগ খুলুন। তারপর, model.fitDataset API ব্যবহার করে মডেল প্রশিক্ষণ চালান এবং আপনার পূর্বে লেখা pitch_type.evaluate() মেথড ব্যবহার করে মডেলের নির্ভুলতা মূল্যায়ন করুন। ১০ বার পুনরাবৃত্তির জন্য প্রশিক্ষণ ও মূল্যায়ন করুন এবং মেট্রিকগুলো কনসোলে প্রিন্ট করুন।

নিচের কোডটি server.js-এ কপি করুন:

require('@tensorflow/tfjs-node');

const http = require('http');
const socketio = require('socket.io');
const pitch_type = require('./pitch_type');

const TIMEOUT_BETWEEN_EPOCHS_MS = 500;
const PORT = 8001;

// util function to sleep for a given ms
function sleep(ms) {
  return new Promise(resolve => setTimeout(resolve, ms));
}

// Main function to start server, perform model training, and emit stats via the socket connection
async function run() {
  const port = process.env.PORT || PORT;
  const server = http.createServer();
  const io = socketio(server);

  server.listen(port, () => {
    console.log(`  > Running socket on port: ${port}`);
  });

  io.on('connection', (socket) => {
    socket.on('predictSample', async (sample) => {
      io.emit('predictResult', await pitch_type.predictSample(sample));
    });
  });

  let numTrainingIterations = 10;
  for (var i = 0; i < numTrainingIterations; i++) {
    console.log(`Training iteration : ${i+1} / ${numTrainingIterations}`);
    await pitch_type.model.fitDataset(pitch_type.trainingData, {epochs: 1});
    console.log('accuracyPerClass', await pitch_type.evaluate(true));
    await sleep(TIMEOUT_BETWEEN_EPOCHS_MS);
  }

  io.emit('trainingComplete', true);
}

run();

এই পর্যায়ে, আপনি সার্ভারটি চালানো এবং পরীক্ষা করার জন্য প্রস্তুত! আপনি এইরকম কিছু দেখতে পাবেন, যেখানে সার্ভারটি প্রতিটি ইটারেশনে একটি করে এপোক প্রশিক্ষণ দেবে (আপনি model.fitDataset API ব্যবহার করে একটি কলে একাধিক এপোক প্রশিক্ষণ দিতে পারেন)। এই পর্যায়ে যদি আপনি কোনো ত্রুটির সম্মুখীন হন, তাহলে অনুগ্রহ করে আপনার নোড এবং এনপিএম ইনস্টলেশন পরীক্ষা করুন।

$ npm run start-server
...
  > Running socket on port: 8001
Epoch 1 / 1
eta=0.0 ========================================================================================================>
2432ms 34741us/step - acc=0.429 loss=1.49

চলমান সার্ভারটি বন্ধ করতে Ctrl-C চাপুন। আমরা পরবর্তী ধাপে এটি আবার চালু করব।

৭. ক্লায়েন্ট পেজ তৈরি করুন এবং কোড প্রদর্শন করুন

সার্ভার প্রস্তুত হয়ে গেলে, পরবর্তী ধাপ হলো ক্লায়েন্ট কোড লেখা যা ব্রাউজারে চলবে। সার্ভারে মডেল প্রেডিকশন চালু করতে এবং ফলাফল প্রদর্শন করতে একটি সহজ পেজ তৈরি করুন। এতে ক্লায়েন্ট/সার্ভার যোগাযোগের জন্য socket.io ব্যবহৃত হয়।

প্রথমে, baseball/ ফোল্ডারে index.html ফাইলটি তৈরি করুন:

<!doctype html>
<html>
  <head>
    <title>Pitch Training Accuracy</title>
  </head>
  <body>
    <h3 id="waiting-msg">Waiting for server...</h3>
    <p>
    <span style="font-size:16px" id="trainingStatus"></span>
    <p>
    <div id="predictContainer" style="font-size:16px;display:none">
      Sensor data: <span id="predictSample"></span>
      <button style="font-size:18px;padding:5px;margin-right:10px" id="predict-button">Predict Pitch</button><p>
      Predicted Pitch Type: <span style="font-weight:bold" id="predictResult"></span>
    </div>
    <script src="dist/bundle.js"></script>
    <style>
      html,
      body {
        font-family: Roboto, sans-serif;
        color: #5f6368;
      }
      body {
        background-color: rgb(248, 249, 250);
      }
    </style>
  </body>
</html>

এরপর baseball/ ফোল্ডারে client.js নামে একটি নতুন ফাইল তৈরি করুন এবং নিচে দেওয়া কোডটি লিখুন:

import io from 'socket.io-client';
const predictContainer = document.getElementById('predictContainer');
const predictButton = document.getElementById('predict-button');

const socket =
    io('http://localhost:8001',
       {reconnectionDelay: 300, reconnectionDelayMax: 300});

const testSample = [2.668,-114.333,-1.908,4.786,25.707,-45.21,78,0]; // Curveball

predictButton.onclick = () => {
  predictButton.disabled = true;
  socket.emit('predictSample', testSample);
};

// functions to handle socket events
socket.on('connect', () => {
    document.getElementById('waiting-msg').style.display = 'none';
    document.getElementById('trainingStatus').innerHTML = 'Training in Progress';
});

socket.on('trainingComplete', () => {
  document.getElementById('trainingStatus').innerHTML = 'Training Complete';
  document.getElementById('predictSample').innerHTML = '[' + testSample.join(', ') + ']';
  predictContainer.style.display = 'block';
});

socket.on('predictResult', (result) => {
  plotPredictResult(result);
});

socket.on('disconnect', () => {
  document.getElementById('trainingStatus').innerHTML = '';
  predictContainer.style.display = 'none';
  document.getElementById('waiting-msg').style.display = 'block';
});

function plotPredictResult(result) {
  predictButton.disabled = false;
  document.getElementById('predictResult').innerHTML = result;
  console.log(result);
}

ক্লায়েন্ট একটি প্রেডিকশন বাটন দেখানোর জন্য trainingComplete সকেট মেসেজটি হ্যান্ডেল করে। এই বাটনটি ক্লিক করা হলে, ক্লায়েন্ট নমুনা সেন্সর ডেটা সহ একটি সকেট মেসেজ পাঠায়। একটি predictResult মেসেজ পাওয়ার পর, এটি পেজে প্রেডিকশনটি প্রদর্শন করে।

৮. অ্যাপটি চালান।

সম্পূর্ণ অ্যাপটি কীভাবে কাজ করে তা দেখতে সার্ভার এবং ক্লায়েন্ট উভয়ই চালান: 

[In one terminal, run this first]
$ npm run start-client

[In another terminal, run this next]
$ npm run start-server

আপনার ব্রাউজারে ক্লায়েন্ট পেজটি খুলুন ( http://localhost:8080 )। মডেল প্রশিক্ষণ শেষ হলে, 'Predict Sample' বোতামে ক্লিক করুন। আপনি ব্রাউজারে একটি পূর্বাভাসের ফলাফল দেখতে পাবেন। টেস্ট CSV ফাইল থেকে কিছু উদাহরণ দিয়ে নমুনা সেন্সর ডেটা পরিবর্তন করে দেখুন মডেলটি কতটা নির্ভুলভাবে পূর্বাভাস দেয়।

৯. আপনি যা শিখেছেন

এই কোডল্যাবে, আপনি TensorFlow.js ব্যবহার করে একটি সাধারণ মেশিন লার্নিং ওয়েব অ্যাপ্লিকেশন তৈরি করেছেন। আপনি সেন্সর ডেটা থেকে বেসবল পিচের ধরন শ্রেণীবদ্ধ করার জন্য একটি কাস্টম মডেলকে প্রশিক্ষণ দিয়েছেন। আপনি সার্ভারে প্রশিক্ষণ সম্পাদন করতে এবং ক্লায়েন্ট থেকে পাঠানো ডেটা ব্যবহার করে প্রশিক্ষিত মডেলে ইনফারেন্স কল করার জন্য Node.js কোড লিখেছেন।

আপনার অ্যাপ্লিকেশনগুলিতে কীভাবে TensorFlow.js ব্যবহার করতে পারেন তা দেখতে, আরও উদাহরণ এবং কোডসহ ডেমোর জন্য অবশ্যই tensorflow.org/js ভিজিট করুন।