linear-algebraসহজ⏱ 10 মিনিট

Vector Operations — ভেক্টর অপারেশন

Vector Operations

🛒

করিম ভাইয়ের বাজারের হিসাব

ধর করিম ভাই কারওয়ান বাজারে গেছে সবজি কিনতে। প্রথম দোকানে আলু ৩ কেজি, পেঁয়াজ ২ কেজি, মরিচ ১ কেজি কিনল — মানে তার ব্যাগে এখন [৩, ২, ১]। এরপর পাশের দোকানে গিয়া আরো আলু ১ কেজি, পেঁয়াজ ৩ কেজি, মরিচ ২ কেজি কিনল — [১, ৩, ২]। এখন করিম ভাই হিসাব করতেছে মোট কত কিনল। সে দুই ব্যাগ যোগ করল: [৩+১, ২+৩, ১+২] = [৪, ৫, ৩]। এরপর বউ ফোন দিল 'পুরা বাজারের দ্বিগুণ লাগবে, শ্বশুরবাড়ি আসতেছে!' করিম ভাই পুরা list-টা ২ দিয়া গুণ করল: ২ × [৪, ৫, ৩] = [৮, ১০, ৬]। আবার বউ বলল 'পেঁয়াজ কমাও ৩ কেজি' — তখন বিয়োগ করল!

এইটাই হইল Vector Operations, মামা! যোগ, বিয়োগ, আর scalar দিয়া গুণ — বাজারের হিসাবের মতোই সোজা!

সংজ্ঞা

Vector Operations হইল ভেক্টরগুলার উপরে যোগ, বিয়োগ, আর scalar গুণ করা। দুইটা same dimension-এর vector element-wise যোগ/বিয়োগ করা যায়, আর যেকোনো scalar দিয়া প্রতিটা element-কে গুণ করা যায়।

Vector Addition ও Scalar Multiplication

\[\vec{a} + \vec{b} = \begin{bmatrix} a_1 + b_1 \\ a_2 + b_2 \\ \vdots \\ a_n + b_n \end{bmatrix}, \quad c \cdot \vec{a} = \begin{bmatrix} c \cdot a_1 \\ c \cdot a_2 \\ \vdots \\ c \cdot a_n \end{bmatrix}\]

ব্যাখ্যা

Vector Addition — ভেক্টর যোগ

দুইটা vector যোগ করতে হইলে same position-এর element গুলা যোগ কর। মানে প্রথমটার সাথে প্রথমটা, দ্বিতীয়টার সাথে দ্বিতীয়টা। করিম ভাইয়ের দুই দোকানের বাজার যোগ করার মতো। শর্ত হইল — দুইটার dimension same হইতে হইব, নাইলে যোগ করতে পারবা না।

\[\vec{a} + \vec{b} = \begin{bmatrix} 3 \\ 2 \\ 1 \end{bmatrix} + \begin{bmatrix} 1 \\ 3 \\ 2 \end{bmatrix} = \begin{bmatrix} 4 \\ 5 \\ 3 \end{bmatrix}\]

Vector Subtraction — ভেক্টর বিয়োগ

বিয়োগও same ভাবে — position by position বিয়োগ কর। করিম ভাই যদি কিছু ফেরত দেয় দোকানে, সেইটা বিয়োগ। ML-এ gradient descent-এ weights থেকে gradient বিয়োগ করা হয় — এইটাই মূল ব্যাপার।

\[\vec{a} - \vec{b} = \begin{bmatrix} 4 \\ 5 \\ 3 \end{bmatrix} - \begin{bmatrix} 1 \\ 2 \\ 1 \end{bmatrix} = \begin{bmatrix} 3 \\ 3 \\ 2 \end{bmatrix}\]

Scalar Multiplication — Scalar দিয়া গুণ

একটা scalar (সংখ্যা) দিয়া vector-এর প্রতিটা element-কে গুণ কর। বউ বলল দ্বিগুণ আনো — মানে পুরা vector-কে ২ দিয়া গুণ। ML-এ learning rate দিয়া gradient-কে গুণ করা হয় ঠিক এইভাবেই।

\[c \cdot \vec{a} = 2 \times \begin{bmatrix} 4 \\ 5 \\ 3 \end{bmatrix} = \begin{bmatrix} 8 \\ 10 \\ 6 \end{bmatrix}\]

Gradient Descent Update Step

তোর model-এর weight vector হইল w = [0.5, -0.3, 0.8]। Gradient হইল g = [0.1, -0.2, 0.05]। Learning rate α = 0.01। একবার gradient descent step-এ নতুন weight কত হইব?

Step 1: Values চেন

Weight vector w = [0.5, -0.3, 0.8], gradient g = [0.1, -0.2, 0.05], learning rate α = 0.01

\[\vec{w} = \begin{bmatrix} 0.5 \\ -0.3 \\ 0.8 \end{bmatrix}, \quad \vec{g} = \begin{bmatrix} 0.1 \\ -0.2 \\ 0.05 \end{bmatrix}, \quad \alpha = 0.01\]

Step 2: Scalar Multiplication — gradient-কে learning rate দিয়া গুণ

আগে gradient-কে α দিয়া scale কর

\[\alpha \cdot \vec{g} = 0.01 \times \begin{bmatrix} 0.1 \\ -0.2 \\ 0.05 \end{bmatrix} = \begin{bmatrix} 0.001 \\ -0.002 \\ 0.0005 \end{bmatrix}\]

Step 3: Vector Subtraction — weight update

এখন পুরানা weight থেকে scaled gradient বিয়োগ কর

\[\vec{w}_{new} = \vec{w} - \alpha \vec{g} = \begin{bmatrix} 0.5 - 0.001 \\ -0.3 - (-0.002) \\ 0.8 - 0.0005 \end{bmatrix} = \begin{bmatrix} 0.499 \\ -0.298 \\ 0.7995 \end{bmatrix}\]

উত্তর:

নতুন weight হইল w_new = [0.499, -0.298, 0.7995] — vector subtraction দিয়া gradient descent!

ML-এ কোথায় লাগে?

💡

মনে রাখার ট্রিক

Vector Operations = বাজারের হিসাব! যোগ = দুই দোকানের ব্যাগ মেলাও, বিয়োগ = ফেরত দাও, scalar গুণ = বউ বলল দ্বিগুণ আনো!

#vector#addition#subtraction#scalar-multiplication#gradient-descent#operations