calculusমাঝারি⏱ 13 মিনিট

Partial Derivative — আংশিক পরিবর্তন

Partial Derivative

🍛

বিরিয়ানি Recipe-তে একটাই জিনিস Change করো

ধর গুরু, তুই পুরান ঢাকার হাজীর বিরিয়ানি রেসিপি নিয়া experiment করতেছস। বিরিয়ানির taste একটা function — f(চাল, মশলা, তেল, আঁচ)। এখন তুই জানতে চাস তেল বাড়ালে taste কেমন change হয়। তাইলে কী করবি? চাল, মশলা, আঁচ সব same রাখবি — শুধু তেল একটু বাড়াবি! ২ চামচ তেল দিলে taste ৭/১০, ২.৫ চামচে ৮/১০, ৩ চামচে ৭.৫/১০। দেখলি? তেলের respect-এ taste-এর partial derivative বের হইল! অন্য সব ingredient ধরে রাইখা শুধু একটা change কর — এইটাই partial derivative-এর মূল কথা।

Partial derivative হইল multi-variable function-এ একটা variable-এর effect আলাদা কইরা দেখা — বাকি সব constant ধরে। ML-এ neural network-এর loss অনেকগুলা weight-এর function — partial derivative বলে দেয় কোন weight change করলে loss কতটুকু change হয়। এইটাই backpropagation-এর core!

সংজ্ঞা

Partial derivative হইল multi-variable function-এর একটা specific variable-এর respect-এ derivative, বাকি সব variable constant ধরে। ∂f/∂x মানে — x change করলে f কতটুকু change হয়, y, z আর বাকি সব যা আছে সব fixed রাইখা।

Partial Derivative — একটা variable change, বাকি সব fixed

\[\frac{\partial f}{\partial x} = \lim_{h \to 0} \frac{f(x+h, y) - f(x, y)}{h}\]

ব্যাখ্যা

∂ (partial) symbol-টা কী?

d-এর বদলে ∂ (curly d) দেখলে বুঝবি এইটা partial derivative। d মানে total change, ∂ মানে partial change — শুধু একটা variable-এর respect-এ। f(x,y) = x² + 3xy + y² হইলে ∂f/∂x বের করতে y-কে constant ধরো, শুধু x-এর term differentiate কর!

\[f(x,y) = x^2 + 3xy + y^2 \implies \frac{\partial f}{\partial x} = 2x + 3y\]

হিসাব করার Trick

যেই variable-এর respect-এ partial derivative নিবি, বাকি সব variable-কে number-এর মতো treat কর। ∂f/∂x নিতে গেলে y-কে একটা constant number ভাব! f(x,y) = x²y + 3x + y³ হইলে ∂f/∂x = 2xy + 3 (y³ হইল constant, তাই derivative 0)।

\[\frac{\partial}{\partial x}[x^2 y + 3x + y^3] = 2xy + 3\]

দুইটা Variable, দুইটা Partial Derivative

f(x,y) হইলে দুইটা partial derivative আছে — ∂f/∂x আর ∂f/∂y। প্রতিটা একটা direction-এ change বলে। ∂f/∂x বলে x-axis বরাবর ঢাল কত, ∂f/∂y বলে y-axis বরাবর ঢাল কত। দুইটা মিলায়া পুরা picture পাওয়া যায়!

\[\frac{\partial f}{\partial y}[x^2 y + 3x + y^3] = x^2 + 3y^2\]

ML Connection — Weight-এর Effect

Neural network-এ loss L হইল সব weight w₁, w₂, ..., wₙ-এর function। ∂L/∂w₁ বলে w₁ change করলে loss কতটুকু change হয় — বাকি সব weight fixed রাইখা। এইভাবে প্রতিটা weight-এর contribution আলাদা কইরা বোঝা যায়!

\[\frac{\partial L}{\partial w_i} = \text{loss-এ } w_i\text{-র contribution}\]

বিরিয়ানি Taste Function

Taste function: T(m, t) = 2m² + mt - t² + 5 (m = মশলা, t = তেল)। m=3, t=2 point-এ ∂T/∂m আর ∂T/∂t বের কর।

Step 1: ∂T/∂m বের কর (t constant)

t-কে number ভেবে শুধু m-এর respect-এ differentiate কর।

\[\frac{\partial T}{\partial m} = 4m + t\]

Step 2: m=3, t=2 বসাও

∂T/∂m at (3,2):

\[\frac{\partial T}{\partial m}\bigg|_{(3,2)} = 4(3) + 2 = 14\]

Step 3: ∂T/∂t বের কর (m constant)

m-কে number ভেবে শুধু t-এর respect-এ differentiate কর।

\[\frac{\partial T}{\partial t} = m - 2t \implies \frac{\partial T}{\partial t}\bigg|_{(3,2)} = 3 - 4 = -1\]

উত্তর:

∂T/∂m = ১৪ (মশলা বাড়ালে taste অনেক বাড়বে!), ∂T/∂t = -১ (তেল বাড়ালে taste একটু কমবে)। মানে — মশলা বাড়াও, তেল একটু কমাও! পুরান ঢাকার বিরিয়ানি মাস্টাররা এইটা হাতেকলমে জানে।

ML-এ কোথায় লাগে?

💡

মনে রাখার ট্রিক

Partial derivative = বিরিয়ানির recipe-তে একটাই ingredient change কর, বাকি সব same রাখ। মশলা বাড়ালে taste কেমন হয় (∂taste/∂মশলা) আর তেল বাড়ালে কেমন হয় (∂taste/∂তেল) — আলাদা আলাদা experiment!

#partial-derivative#multivariable-calculus#backpropagation#jacobian#gradient#feature-importance