| Orthogonal |
অর্থোগোনাল / লম্ব |
দুই vector-এর মধ্যে ৯০° কোণ: \(u^Tv = 0\) |
| Orthogonal Projection |
অর্থোগোনাল প্রজেকশন |
কোনো vector-এর "ছায়া" একটা লাইন/subspace-এর ওপর — সেখানকার সবচেয়ে কাছের বিন্দু |
| Projection formula |
প্রজেকশনের সূত্র |
লাইন \(a\)-এর ওপর \(b\)-এর ছায়া: \(\text{proj}_a(b) = \frac{a^Tb}{a^Ta}\,a\) |
| Residual |
রেসিডুয়াল / অবশিষ্ট ভুল |
মূল vector থেকে ছায়া বাদ দিলে যা থাকে: \(e = b - p\) — সবসময় লম্ব-জগতে |
| Orthogonality Principle |
অর্থোগোনালিটি প্রিন্সিপল |
"সবচেয়ে কাছের" মানেই residual লম্ব — best approximation-এর চেনার চিহ্ন |
| Idempotent |
আইডেমপোটেন্ট |
দুবার প্রয়োগ = একবার প্রয়োগ: \(P^2 = P\) (ছায়ার ছায়া = ছায়া) |
| Orthogonal Set |
অর্থোগোনাল সেট |
যে vector-দলের প্রত্যেক জোড়া পরস্পর লম্ব |
| Orthonormal Set |
অর্থোনরমাল সেট |
orthogonal + প্রত্যেকের দৈর্ঘ্য ১ — লম্ব ও মাপা |
| Orthonormal Basis |
অর্থোনরমাল বেসিস |
orthonormal vector দিয়ে গড়া basis — coordinate বের হয় শুধু dot product-এ |
| Gram–Schmidt Procedure |
গ্রাম–শ্মিট প্রসিডিউর |
সাধারণ basis-কে ধাপে ধাপে ছায়া-বাদ-দিয়ে orthonormal বানানোর অ্যালগরিদম |
| QR Decomposition |
কিউ-আর ডিকম্পোজিশন |
\(A = QR\): orthonormal-column \(Q\) আর upper triangular \(R\)-এ ভাঙন — Gram–Schmidt-এর হিসাবের খাতা |
| Orthogonal Matrix |
অর্থোগোনাল ম্যাট্রিক্স |
square matrix যার column-রা orthonormal: \(Q^TQ = QQ^T = I\), তাই \(Q^{-1} = Q^T\) |
| Orthogonal Complement |
অর্থোগোনাল কমপ্লিমেন্ট |
\(S^\perp\) — subspace \(S\)-এর প্রতিটা vector-এর সাথে লম্ব সব vector-এর subspace |
| Direct Sum |
ডাইরেক্ট সাম |
\(V = S \oplus S^\perp\) — প্রতিটা vector-এর অনন্য ভাঙন "S-অংশ + লম্ব-অংশ" |
| Fundamental Theorem of Linear Algebra (FTLA) |
লিনিয়ার অ্যালজেব্রার মৌলিক উপপাদ্য |
চার fundamental subspace জোড়ায় জোড়ায় orthogonal complement: \(C(A^T) \perp N(A)\), \(C(A) \perp N(A^T)\) |
| Fredholm Alternative |
ফ্রেডহোম অল্টারনেটিভ |
\(Ax = b\) সমাধানযোগ্য \(\iff\) \(b \perp N(A^T)\) — solvability-র লম্বতা-পরীক্ষা |
| Least Squares Problem |
লিস্ট স্কোয়ার্স প্রবলেম |
সমাধানহীন \(Ax = b\)-তে ভুলের বর্গের যোগফল minimize: \(\min_x \|Ax - b\|^2\) |
| Least Squares Approximate Solution |
লিস্ট স্কোয়ার্স আনুমানিক সমাধান |
\(\hat{x}\) — যে মান ভুলটা সবচেয়ে ছোট করে (সাধারণত \(A\hat{x} \neq b\)!) |
| Tall Matrix |
টল ম্যাট্রিক্স |
সারি > column (\(m > n\)) — সমীকরণ বেশি, অজানা কম |
| Over-determined System |
ওভার-ডিটারমাইন্ড সিস্টেম |
অজানার চেয়ে সমীকরণ বেশি — প্রায় কখনোই exact সমাধান নেই |
| Normal Equations |
নরমাল ইকুয়েশনস |
least squares-এর সমাধান-সমীকরণ: \(A^TA\hat{x} = A^Tb\) — জন্ম residual-এর লম্বতা থেকে |
| Gram Matrix |
গ্রাম ম্যাট্রিক্স |
\(A^TA\) — column-দের পারস্পরিক dot product-এর টেবিল |
| Projection Matrix |
প্রজেকশন ম্যাট্রিক্স |
\(P = A(A^TA)^{-1}A^T\) — column space-এ ছায়া ফেলার মেশিন (\(P^2 = P\), \(P^T = P\)) |
| Pseudo-inverse |
সিউডো-ইনভার্স |
\(A^\dagger = (A^TA)^{-1}A^T\) — tall matrix-এর "inverse-এর বদলি"; \(\hat{x} = A^\dagger b\) |
| Weighted Least Squares |
ওয়েটেড লিস্ট স্কোয়ার্স |
measurement-ভেদে গুরুত্ব \(w_i\) দিয়ে minimize — সমাধান \((A^TWA)^{-1}A^TWb\) |
| Regression |
রিগ্রেশন |
data fitting-এর জগতে least squares-এর ডাকনাম — feature থেকে outcome অনুমান |
| Data Fitting |
ডেটা ফিটিং |
মাপা ডেটার সম্পর্ককে অল্প parameter-এর মডেল দিয়ে ধরা |
| Feature |
ফিচার |
যে রাশি(গুলো) আমরা জানি ও যা থেকে অনুমান করি — independent variable \(x\) |
| Outcome / Response Variable |
আউটকাম / রেসপন্স |
যে রাশি অনুমান করতে চাই — dependent variable \(y\) |
| Model / Predictor |
মডেল / প্রেডিক্টর |
অজানা সম্পর্ক \(f\)-এর আমাদের বানানো অনুমান \(\hat{f}\) |
| Prediction |
প্রেডিকশন |
মডেলের দেওয়া অনুমিত মান: \(\hat{y} = \hat{f}(x)\) |
| Basis Function |
বেসিস ফাংশন |
মডেলের building block \(f_j(x)\) — আমরা বেছে নিই (\(1, x, x^2, (x-a)_+, \dots\)) |
| Parameter |
প্যারামিটার |
মডেলের শেখা-হওয়া সহগ \(\theta_j\) — ডেটা থেকে least squares-এ নির্ধারিত |
| Linear in the Parameters |
প্যারামিটারে লিনিয়ার |
মডেল \(\theta\)-এর linear combination — \(x\)-এ nonlinear হলেও যন্ত্র সেই least squares |
| Design Matrix |
ডিজাইন ম্যাট্রিক্স |
\(A_{ij} = f_j(x^{(i)})\) — সারিতে ডেটা, column-এ basis function |
| Prediction Error |
প্রেডিকশন এরর |
আসল আর অনুমানের ফারাক: \(r^{(i)} = y^{(i)} - \hat{y}^{(i)}\) |
| RMS Error |
আরএমএস এরর |
ভুলের root-mean-square \(\sqrt{\frac{1}{N}\sum r_i^2}\) — "গড়ে কত ভুল" |
| Vandermonde Matrix |
ভ্যান্ডারমন্ড ম্যাট্রিক্স |
polynomial fit-এর design matrix — column-রা \(1, x, x^2, \dots\) ডেটায় মূল্যায়িত |
| Straight-line Fit |
সরলরেখা ফিট |
\(\hat{f}(x) = \theta_1 + \theta_2 x\) — ঢাল আসে correlation থেকে: \(\hat\theta_2 = \rho\,\mathrm{std}(y)/\mathrm{std}(x)\) |
| Polynomial Fit |
পলিনোমিয়াল ফিট |
basis \(1, x, \dots, x^{p-1}\) — degree বাড়ালে train error কমে, কিন্তু… |
| Piecewise-linear Fit |
পিসওয়াইজ-লিনিয়ার ফিট |
hinge function \((x - a)_+\) দিয়ে ভাঁজওয়ালা লাইন fit — knot-এ ঢাল বদলায় |
| Knot Point |
নট পয়েন্ট |
piecewise-linear মডেলে যেখানে ঢাল বদলানোর অনুমতি |
| Trend Line |
ট্রেন্ড লাইন |
time series-এ সময়ের বিপরীতে straight-line fit — ঢালটাই trend |
| Seasonal Component |
সিজনাল কম্পোনেন্ট |
নির্দিষ্ট পর্বে (যেমন ১২ মাসে) নিজেকে repeat করা অংশ — periodic basis দিয়ে fit |
| Auto-regressive (AR) Model |
অটো-রিগ্রেসিভ মডেল |
আগের \(M\)টা মান থেকে পরের মান অনুমান — time series-এর regression |
| Generalization |
জেনারালাইজেশন |
না-দেখা নতুন ডেটাতেও ভালো prediction করার ক্ষমতা — মডেলের আসল গুণ |
| Out-of-sample Validation |
আউট-অব-স্যাম্পল ভ্যালিডেশন |
শেখায় ব্যবহার-না-হওয়া ডেটায় মডেল যাচাই |
| Training Set |
ট্রেনিং সেট |
ডেটার যে অংশ (\(\sim 80\%\)) দিয়ে \(\hat\theta\) শেখা হয় |
| Test / Validation Set |
টেস্ট / ভ্যালিডেশন সেট |
লুকিয়ে-রাখা অংশ (\(\sim 20\%\)) — মডেলের সততা-পরীক্ষার প্রশ্নপত্র |
| Over-fitting |
ওভার-ফিটিং |
train error \(\ll\) test error — মডেল ধরন না শিখে noise মুখস্থ করেছে |
| Under-fitting |
আন্ডার-ফিটিং |
মডেল এত সরল যে ডেটার আসল ধরনটাই ধরতে পারে না — দুই error-ই বড় |
| Cross-validation |
ক্রস-ভ্যালিডেশন |
ডেটাকে \(k\) ভাঁজে ভাগ করে প্রতিবার এক ভাঁজ লুকিয়ে যাচাই, তারপর গড় |
| Feature Engineering |
ফিচার ইঞ্জিনিয়ারিং |
ভালো prediction-এর জন্য design matrix-এর নতুন column (নতুন feature) বানানোর শিল্প |
| Standardization (z-scoring) |
স্ট্যান্ডার্ডাইজেশন |
feature-কে \((x - b)/a\) রূপে গড় \(0\), std \(1\)-এ আনা — prediction বদলায় না, স্থিতি বাড়ে |
| Winsorizing |
উইনসরাইজিং |
চরম/সন্দেহজনক মানগুলোকে একটা থ্রেশহোল্ডে ছেঁটে দেওয়া |
| Log Transform |
লগ ট্রান্সফর্ম |
বিশাল রেঞ্জের positive মানকে \(\log x\) (বা \(\log(x+1)\))-এ সংকুচিত করা |
| One-hot Encoding |
ওয়ান-হট এনকোডিং |
\(l\)-মানের categorical feature-কে \(l-1\)টা \(0/1\) column-এ ভাঙা |
| Dummy Variable Trap |
ডামি ভেরিয়েবল ট্র্যাপ |
সব category-র column + constant রাখলে column-রা dependent — \(A^TA\) singular |
| Extrapolation |
এক্সট্রাপোলেশন |
ডেটার সীমার বাইরে prediction — সবসময় বাড়তি ঝুঁকির |