কনটেন্টে যান

Glossary — পুরো বইয়ের পরিভাষা-অভিধান

এই পাতায় বইয়ের প্রতিটা Part-এর সব গুরুত্বপূর্ণ English term এক জায়গায় — বাংলা নাম (উচ্চারণসহ) ও এক লাইনে অর্থসহ। উপরের search box-এ term লিখে সরাসরি খুঁজে নাও, অথবা Part ধরে নিচে নামো।

Part 0

English Term বাংলা এক লাইনে অর্থ
Natural number স্বাভাবিক সংখ্যা গোনার সংখ্যা: \(1, 2, 3, \dots\)
Integer পূর্ণসংখ্যা ধনাত্মক, ঋণাত্মক ও শূন্য — ভগ্নাংশহীন সংখ্যা: \(\dots, -2, -1, 0, 1, 2, \dots\)
Rational number মূলদ সংখ্যা দুই integer-এর ভাগফল হিসেবে লেখা যায় এমন সংখ্যা, যেমন \(\frac{1}{2}\)
Irrational number অমূলদ সংখ্যা ভগ্নাংশে লেখা যায় না এমন সংখ্যা, যেমন \(\sqrt{2}, \pi\)
Real number বাস্তব সংখ্যা সংখ্যারেখার যেকোনো বিন্দু; সব rational + irrational মিলিয়ে \(\mathbb{R}\)
Number line সংখ্যারেখা সব real number-এর ছবি — একটা অসীম লম্বা দাগ
Variable চলক সংখ্যা রাখার নামওয়ালা খালি বাক্স, যেমন \(x\)
Equation সমীকরণ "বাঁ পাশ = ডান পাশ" দাবি করা গাণিতিক বাক্য
Solve / Solution সমাধান করা / সমাধান equation-কে সত্যি বানায় এমন মান খুঁজে বের করা / সেই মান
Function ফাংশন প্রতিটা input-এর জন্য ঠিক একটা output দেওয়া নিয়ম/মেশিন
Linear function রৈখিক ফাংশন যে function-এর graph সরলরেখা: \(y = mx + c\)
Commutative property বিনিময় ধর্ম ক্রম বদলালেও ফল একই: \(a + b = b + a\)
Associative property সংযোজন ধর্ম বন্ধনী যেখানেই দাও ফল একই: \((a+b)+c = a+(b+c)\)
Distributive property বণ্টন ধর্ম গুণ বন্ধনীর ভেতরে ঢুকে যায়: \(a(b+c) = ab + ac\)
Order of operations (BODMAS) কাজের ক্রম বন্ধনী → power → গুণ-ভাগ → যোগ-বিয়োগ
Coordinate plane স্থানাঙ্ক সমতল দুটো লম্ব number line দিয়ে বানানো সমতল — প্রতিটা বিন্দুর ঠিকানা-ব্যবস্থা
x-axis / y-axis এক্স-অক্ষ / ওয়াই-অক্ষ আনুভূমিক / উল্লম্ব number line
Origin মূলবিন্দু দুই axis-এর ছেদবিন্দু \((0, 0)\)
Coordinates স্থানাঙ্ক কোনো বিন্দুর ঠিকানা-জোড় \((x, y)\)
Ordered pair ক্রমজোড় ক্রম-সহ দুটো সংখ্যা; \((3,2) \neq (2,3)\)
Quadrant পাদ দুই axis-এ ভাগ হওয়া সমতলের চার অঞ্চল (I, II, III, IV)
Distance formula দূরত্বের সূত্র \(d = \sqrt{(\Delta x)^2 + (\Delta y)^2}\) — Pythagoras-এর রূপ
Slope ঢাল ডানে এক ধাপ গেলে লাইন কতটা ওঠে: \(m = \frac{\text{rise}}{\text{run}}\)
y-intercept ওয়াই-ছেদক লাইন y-axis-কে যেখানে কাটে; \(y = mx + c\)-এর \(c\)
Parallel lines সমান্তরাল রেখা সমান slope-এর দুটো লাইন — কখনো ছেদ করে না
Collinear একরেখ একই সরলরেখায় থাকা বিন্দুরা
Intersection (of lines) ছেদবিন্দু দুটো লাইন যেখানে মেলে — দুই শর্তের সাধারণ solution
Set সেট জিনিসের সংগ্রহ/ব্যাগ — ক্রম নেই, duplicate নেই
Element উপাদান set-এর ভেতরের একেকটা জিনিস; \(x \in A\)
Subset উপসেট যে set-এর সব element আরেকটার ভেতরে: \(B \subset A\)
Union সংযোগ দুই set-এর সব element একসাথে: \(A \cup B\)
Intersection (of sets) ছেদ দুই set-এর কমন element-রা: \(A \cap B\)
Empty set ফাঁকা সেট কোনো element নেই এমন set: \(\emptyset\)
Set-builder notation শর্ত দিয়ে সেট লেখা \(\{x \in \mathbb{R} : x > 0\}\) — "এমন সব \(x\) যে..."
Set difference সেট বিয়োগ \(A \setminus B\)\(A\)-তে আছে কিন্তু \(B\)-তে নেই
Interval ব্যবধি number line-এর একটানা টুকরো, যেমন \((-3, 3)\)
\(\mathbb{N}, \mathbb{Z}, \mathbb{Q}, \mathbb{R}\) বিখ্যাত সংখ্যা-সেট natural, integer, rational, real সংখ্যাদের সংরক্ষিত নাম
\(\mathbb{R}^n\) আর-এন \(n\)-টা real সংখ্যার সব লিস্টের set — data যেখানে বাস করে
Domain ডোমেইন function-এর বৈধ input-দের set
Codomain কোডোমেইন output যেখানে পড়ার অনুমতি আছে সেই set (\(f: A \to B\)-এর \(B\))
Range রেঞ্জ আসলে যে output-গুলো বেরোয় তাদের set — codomain-এর অংশ
Sigma notation (\(\Sigma\)) যোগের সংক্ষিপ্ত লিপি \(\sum_{i=1}^{n} a_i\) — "\(i\) চালাও, হিসাব করো, সব যোগ করো" (ছদ্মবেশী for-loop)
Mean গড় সব মান যোগ করে সংখ্যা দিয়ে ভাগ: \(\bar{a} = \frac{1}{n}\sum a_i\)
Python পাইথন data science-এর প্রধান programming ভাষা
Library লাইব্রেরি অন্যদের লেখা ready-made কোডের সংগ্রহ (import করে ব্যবহার)
NumPy নামপাই সংখ্যার array-তে দ্রুত math করার Python library
matplotlib ম্যাটপ্লটলিব graph/ছবি আঁকার Python library
Jupyter Notebook জুপিটার নোটবুক কোড + লেখা + ছবি একসাথে রাখার interactive খাতা
Array (NumPy array) অ্যারে একই ধরনের সংখ্যার সারি, যার উপর একবারে math চালানো যায়
Vectorization ভেক্টরাইজেশন loop ছাড়া পুরো array-র উপর একসাথে অপারেশন চালানো
Indexing ইনডেক্সিং array-র নির্দিষ্ট element ধরা; Python-এ গোনা শুরু ০ থেকে
Slicing স্লাইসিং array-র টুকরো নেওয়া: a[1:3] (শেষ প্রান্ত বাদ)
Boolean masking বুলিয়ান মাস্কিং শর্ত দিয়ে array-র element বাছাই: h[h > 180] — কোডের set-builder
np.linspace লিনস্পেস দুই প্রান্তের মাঝে সমান ফাঁকে \(n\)টা সংখ্যা বানানো
Histogram হিস্টোগ্রাম একটা রাশির মানগুলো কোন এলাকায় কত ঘন — তার ছবি
Scatter plot স্ক্যাটার প্লট দুই রাশির সম্পর্ক দেখতে বিন্দু ছিটানো ছবি
Bar chart বার চার্ট দলভিত্তিক তুলনার জন্য স্তম্ভের ছবি
Line plot লাইন প্লট ধারাবাহিক মান (যেমন সময়ের সাথে) রেখা দিয়ে জোড়া ছবি
Error message এরর মেসেজ কোড ভুল হলে Python-এর ব্যাখ্যা-চিঠি — শেষ লাইনে ভুলের ধরন
Parabola প্যারাবোলা \(y = x^2\) জাতীয় function-এর U-আকৃতির curve
Quadratic formula দ্বিঘাত সূত্র \(ax^2+bx+c=0\)-এর সমাধান: \(x = \frac{-b \pm \sqrt{b^2-4ac}}{2a}\)
Inverse function বিপরীত ফাংশন যে function আরেকটার কাজ undo করে, যেমন \(\sqrt{x}\) বনাম \(x^2\)

Part I

English Term বাংলা এক লাইনে অর্থ
Vector ভেক্টর সংখ্যার ordered list — একই সাথে arrow, list ও point
Entry / Element / Component উপাদান vector-এর ভেতরের এক-একটা সংখ্যা, \(v_i\)
Size / Dimension (of a vector) আকার / মাত্রা vector-এ মোট কয়টা entry আছে
\(n\)-vector এন-ভেক্টর \(n\)টা entry-ওয়ালা vector; সবার সেট \(\mathbb{R}^n\)
Scalar স্কেলার সাধারণ একটা একক সংখ্যা — vector নয়
\(\mathbb{R}^n\) আর-এন সব \(n\)-vector-এর সেট; \(v \in \mathbb{R}^n\) মানে \(v\)-তে \(n\)টা real entry
Vector equality ভেক্টরের সমতা size সমান এবং প্রতিটি জায়গার entry মিললে দুটি vector সমান
Zero vector শূন্য ভেক্টর সব entry \(0\); \(\mathbf{0}\) — origin-এ বসা দিকহীন বিন্দু
Standard unit vector আদর্শ একক ভেক্টর \(e_i\)\(i\)-তম entry \(1\), বাকি সব \(0\); axis-বরাবর এক ধাপ
Ones vector ওয়ানস ভেক্টর সব entry \(1\); \(\mathbf{1}\) — গড় হিসাবের নিত্যসঙ্গী
Block / Stacked vector জোড়া লাগানো ভেক্টর ছোট vector-দের পরপর বসিয়ে বানানো বড় vector
Subvector / Slice টুকরো ভেক্টর বড় vector থেকে কাটা টানা অংশ, যেমন \(z_{2:3}\)
Sparse vector / Sparsity স্পার্স ভেক্টর / বিরলতা যে vector-এর বেশিরভাগ entry \(0\)
Feature vector বৈশিষ্ট্য ভেক্টর কোনো বস্তুর মাপগুলো এক vector-এ — ML model-এর চোখে পৃথিবী
Word embedding শব্দ-ভেক্টর প্রতিটা শব্দের সংখ্যা-রূপ, যাতে কাছাকাছি অর্থ = কাছাকাছি vector
Time series সময়-ধারা সময় ধরে নেওয়া মাপের ক্রম — একটা লম্বা vector
Displacement সরণ "কোথা থেকে কতটুকু কোন দিকে" — লেজ-মুক্ত arrow হিসেবে vector
Vector addition ভেক্টর যোগ entry ধরে ধরে যোগ: \((a+b)_i = a_i + b_i\); ছবিতে tip-to-tail
Entry-wise / Element-wise উপাদান-ধরে operation-টা প্রতিটি entry-তে আলাদা আলাদা খাটানো
Tip-to-tail rule লেজ-মাথা নিয়ম \(b\)-এর লেজ \(a\)-এর মাথায় বসিয়ে যোগফল আঁকা
Parallelogram rule সামান্তরিক নিয়ম লেজ এক জায়গায় রেখে সামান্তরিকের কর্ণ = যোগফল
Scalar multiplication স্কেলার গুণ \((\beta v)_i = \beta v_i\) — vector-কে টেনে লম্বা/খাটো/উল্টো করা
Vector subtraction ভেক্টর বিয়োগ \(b - a\) = "\(a\)-এর মাথা থেকে \(b\)-এর মাথায় যাওয়া arrow"
Additive inverse যোগাত্মক বিপরীত \(-v\) — যোগ করলে \(\mathbf 0\) মেলে: \(v + (-v) = \mathbf 0\)
Vector space ভেক্টর স্পেস যেখানে যোগ ও scalar গুণের ৮টি নিয়ম চলে (Part IV-এর বিষয়)
Centering (de-meaning a dataset) কেন্দ্রীকরণ প্রতিটি data vector থেকে গড়-vector বিয়োগ — মেঘ origin-এ সরে আসে
Interpolation ইন্টারপোলেশন \(x + \theta(y - x)\), \(\theta \in [0,1]\) — দুই বিন্দুর মাঝপথে চলা
Broadcasting (NumPy) ব্রডকাস্টিং ভিন্ন shape-এর array-তে NumPy-র নিয়মে operation ছড়িয়ে দেওয়া
Inner product / Dot product ইনার প্রোডাক্ট / ডট প্রোডাক্ট \(a^Tb = \sum_i a_i b_i\) — দুই vector থেকে একটি সংখ্যা
Transpose (notation \(a^T\)) ট্রান্সপোজ \(a^Tb\) লেখার \(T\)-চিহ্ন; পুরো অর্থ Part III-তে
Orthogonal অর্থোগোনাল \(a^Tb = 0\) — দুই vector পরস্পর লম্ব
Cosine similarity কোসাইন সাদৃশ্য \(\frac{a^Tb}{\|a\|\|b\|} \in [-1,1]\) — দৈর্ঘ্য বাদ, শুধু দিকের মিল
Weight vector / Weighted score ওজন ভেক্টর / ওজনি স্কোর গুরুত্ব-মাপগুলোর vector; score \(= w^Tx\) — linear model-এর হৃদয়
Selector vector নির্বাচক ভেক্টর \(0/1\)-এর vector, dot product দিয়ে বাছাই-করা entry-দের যোগফল তোলে
Flops / Complexity \(O(n)\) ফ্লপস / জটিলতা হিসাবের operation-সংখ্যা; dot product-এ \(\approx 2n\)
Norm (Euclidean) নর্ম \(\|x\| = \sqrt{x^Tx}\) — vector-এর দৈর্ঘ্য; Pythagoras-এর \(n\)-মাত্রিক রূপ
Unit vector একক ভেক্টর যার norm ঠিক \(1\); unit circle/sphere-এর বাসিন্দা
Normalize নর্মালাইজ করা \(\hat x = x/\|x\|\) — দিক রেখে দৈর্ঘ্য \(1\) বানানো
Distance দূরত্ব \(\text{dist}(a,b) = \|a - b\|\) — দুই point/vector-এর ফারাক
Cauchy–Schwarz inequality কশি–শোয়ার্জ অসমতা \(\vert a^Tb\vert \le \|a\|\|b\|\) — "ছায়া কখনো আসলের চেয়ে লম্বা না"
Triangle inequality ত্রিভুজ অসমতা \(\|a+b\| \le \|a\| + \|b\|\) — শর্টকাটই সবচেয়ে ছোট
Angle between vectors ভেক্টরদ্বয়ের কোণ \(\theta = \arccos\frac{a^Tb}{\|a\|\|b\|}\) — যেকোনো dimension-এ
RMS value আর-এম-এস মান \(\|x\|/\sqrt n\) — entry-দের "সাধারণ মাত্রা"
De-meaned vector গড়-বাদ ভেক্টর \(\tilde x = x - \mu\mathbf 1\) — প্রতিটি entry থেকে গড় বিয়োগ
Standard deviation স্ট্যান্ডার্ড ডেভিয়েশন \(\|\tilde x\|/\sqrt n\) — ছড়িয়ে থাকা = de-meaned vector-এর দৈর্ঘ্য
Correlation coefficient কোরিলেশন সহগ দুই de-meaned vector-এর cosine — সম্পর্কের মাপ
Nearest neighbor নিকটতম প্রতিবেশী query থেকে distance সবচেয়ে কম যে data point
Linear combination লিনিয়ার কম্বিনেশন \(\beta_1 a_1 + \cdots + \beta_k a_k\) — scale করে যোগ; vector-দের রেসিপি
Coefficient সহগ combination-এর মাপ-সংখ্যাগুলো (\(\beta_i\))
Trivial combination ট্রিভিয়াল কম্বিনেশন সব coefficient \(0\) — ফল সবসময় \(\mathbf 0\)
Affine combination অ্যাফাইন কম্বিনেশন যে combination-এ coefficient-দের যোগফল \(1\) (যেমন midpoint)
Span স্প্যান কিছু vector-এর সব linear combination-এর সেট — "কতদূর পৌঁছানো যায়"
Linearly independent লিনিয়ারলি স্বাধীন কেউই বাকিদের combination নয় — প্রত্যেকে নতুন দিক
Linearly dependent লিনিয়ারলি পরনির্ভর কেউ একজন বাকিদের combination — "ভুতুড়ে নব", নতুন খবর নেই
Singular matrix (error) সিঙ্গুলার ম্যাট্রিক্স NumPy-র অভিযোগ: vector-গুলো dependent, system solve হয় না

Part II — Linear Systems

Chapter 2.1 — System of Linear Equations

English Term বাংলা এক লাইনে অর্থ
Linear Equation রৈখিক সমীকরণ যে সমীকরণে variable-রা শুধু প্রথম ঘাতে, শুধু সংখ্যার সাথে গুণ হয়: \(a_1x_1+\cdots+a_kx_k=b\)
System of Linear Equations রৈখিক সমীকরণের সিস্টেম একাধিক linear equation, যাদের সব একসাথে মানতে হবে
Unknown / Variable অজানা / চলক যে রাশিগুলোর মান খুঁজছি (\(x_1,\dots,x_k\))
Coefficient সহগ variable-এর সাথে গুণ হওয়া জানা সংখ্যা
Constant Term ধ্রুবক পদ সমীকরণের ডানপাশের জানা সংখ্যা \(b\)
Solution সমাধান variable-দের এমন মানগুচ্ছ যা প্রতিটা equation সত্য করে
Solution Set সমাধান সেট সব সমাধানের সেট
Matrix Equation ম্যাট্রিক্স সমীকরণ সিস্টেমের \(A\mathbf{x}=\mathbf{b}\) পোশাক — coefficient-রা \(A\)-তে, unknown-রা \(\mathbf{x}\)-এ
Augmented Matrix অগমেন্টেড ম্যাট্রিক্স coefficient আর \(\mathbf{b}\) একসাথে এক টেবিলে: \((A\,\vert\,\mathbf{b})\); প্রতি row = এক equation
Row Picture রো পিকচার প্রতিটা equation-কে লাইন/প্লেন হিসেবে আঁকা; সমাধান = সবার ছেদ
Column Picture কলাম পিকচার সমাধানকে দেখা \(A\)-র column-দের মিশ্রণের রেসিপি হিসেবে — কোন column কতটুকু নিলে \(\mathbf{b}\) পাই
Intersection Point ছেদবিন্দু যে বিন্দুতে লাইন/প্লেনরা মেলে — row picture-এ সমাধানের চেহারা
Plane সমতল 3D-তে এক linear equation-এর আঁকা চ্যাপ্টা পৃষ্ঠ
Trichotomy তিন-ভাগ্য নিয়ম linear system-এর সমাধান-সংখ্যা \(0\), \(1\), নয়তো \(\infty\) — মাঝামাঝি কিছু নেই
Consistent সামঞ্জস্যপূর্ণ যে সিস্টেমের অন্তত একটা সমাধান আছে
Inconsistent অসামঞ্জস্যপূর্ণ যে সিস্টেমের কোনো সমাধান নেই
Homogeneous সমসত্ত্ব ডানপাশ শূন্য: \(A\mathbf{x}=\mathbf{0}\); কখনো সমাধানহীন হয় না
Trivial Solution তুচ্ছ সমাধান homogeneous সিস্টেমের "সবাই শূন্য" সমাধান \(\mathbf{x}=\mathbf{0}\)
Singular সিঙ্গুলার যে matrix-এর column-রা একে অন্যের ছায়া — একক সমাধান দেওয়ার ক্ষমতা নেই

Chapter 2.2 — Gaussian Elimination ও RREF

English Term বাংলা এক লাইনে অর্থ
Elementary Row Operation (ERO) এলিমেন্টারি রো অপারেশন সমাধান সেট না বদলানো তিন চাল: swap, scale, add
Swap অদলবদল দুটো row-এর জায়গা বদল: \(R_i \leftrightarrow R_j\)
Scale মাপবদল একটা row-কে nonzero সংখ্যা দিয়ে গুণ: \(R_i \leftarrow cR_i\)
Add গুণিতক-যোগ এক row-এর গুণিতক আরেক row-তে যোগ: \(R_i \leftarrow R_i + cR_j\)
Row Equivalent রো ইকুইভ্যালেন্ট দুটো matrix, যাদের একটাকে EROs দিয়ে অন্যটা বানানো যায় (চিহ্ন \(\sim\))
Gaussian Elimination গাউসিয়ান এলিমিনেশন EROs দিয়ে সিস্টেমকে ধাপে ধাপে সিঁড়ি-আকারে সরল করার যান্ত্রিক অ্যালগরিদম
Row Echelon Form (REF) রো এশেলন ফর্ম forward pass শেষের সিঁড়ি-আকার — pivot-এর নিচে সব শূন্য, উপরে তখনো নয়
Reduced Row Echelon Form (RREF) রিডিউসড রো এশেলন ফর্ম সবচেয়ে পরিষ্কার রূপ: pivot \(=1\), pivot column-এ একা, সিঁড়ি ডানে নামে, শূন্য row নিচে — এবং unique
Pivot পিভট প্রতি row-এর প্রথম nonzero entry (RREF-এ \(1\)); সিঁড়ির প্রতিটা ধাপ
Pivot Column পিভট কলাম যে column-এ pivot আছে
Free Variable মুক্ত চলক pivot-হীন column-এর variable — মান খুশিমতো, parameter হয়ে সমাধানে ঘোরে
Forward Pass ফরোয়ার্ড পাস elimination-এর প্রথম অর্ধ: উপর থেকে নিচে, pivot-এর নিচ শূন্য করা
Backward Pass ব্যাকওয়ার্ড পাস দ্বিতীয় অর্ধ: নিচ থেকে উপরে, pivot-এর উপরও শূন্য করা → RREF
Partial Pivoting পার্শিয়াল পিভটিং নির্ভুলতার জন্য column-এর সবচেয়ে বড় entry-কে swap করে pivot বানানো
Rank র‍্যাঙ্ক pivot-সংখ্যা = matrix-এর "স্বাধীন তথ্যের" পরিমাণ (পুরো গল্প Part IV-এ)

Chapter 2.3 — Elementary Matrices ও LU Decomposition

English Term বাংলা এক লাইনে অর্থ
Elementary Matrix এলিমেন্টারি ম্যাট্রিক্স \(I\)-র উপর একটা ERO করা matrix; \(EA\) = সেই ERO করা \(A\) — "চাল দেওয়া = বাঁ থেকে গুণ"
Inverse ইনভার্স matrix-এর "undo": \(E^{-1}E = I\); প্রতিটা elementary matrix-এর inverse-ও elementary
Triangular Matrix ত্রিভুজাকার ম্যাট্রিক্স diagonal-এর এক পাশে সব শূন্য এমন matrix
Lower Triangular নিম্ন-ত্রিভুজাকার diagonal-এর উপরে সব শূন্য
Upper Triangular ঊর্ধ্ব-ত্রিভুজাকার diagonal-এর নিচে সব শূন্য
Unit Lower Triangular ইউনিট নিম্ন-ত্রিভুজাকার lower triangular যার diagonal-এ সব \(1\) — LU-র \(L\) এই জাতের
LU Decomposition এল-ইউ বিশ্লেষণ \(A = LU\): elimination-এর চালের খাতা (\(L\)) × ফলাফল (\(U\)) — solve-বান্ধব ফরম্যাট
Multiplier গুণক elimination-এ \(R_i \leftarrow R_i - \ell_{ij}R_j\) চালের সেই \(\ell_{ij}\) — সোজা চিহ্নে \(L\)-এর \((i,j)\) ঘরে বসে
Forward Substitution ফরোয়ার্ড সাবস্টিটিউশন \(L\mathbf{c}=\mathbf{b}\) উপর থেকে নিচে বসিয়ে-বসিয়ে solve
Back Substitution ব্যাক সাবস্টিটিউশন \(U\mathbf{x}=\mathbf{c}\) নিচ থেকে উপরে বসিয়ে-বসিয়ে solve
Permutation Matrix পারমুটেশন ম্যাট্রিক্স identity-র row-রা এলোমেলো করা matrix; সব row swap একসাথে জমা রাখে (\(PA=LU\))
Cholesky Decomposition কোলেস্কি বিশ্লেষণ positive definite matrix-এর জন্য LU-র সস্তা ভাই (Part VI ও VIII-এ)
Determinant নির্ণায়ক triangular matrix-এ diagonal-এর গুণফল; LU দিয়ে দ্রুত হিসাব হয় (Part VI-এ)

Chapter 2.4 — Solution Set-এর Geometry

English Term বাংলা এক লাইনে অর্থ
Hyperplane হাইপারপ্লেন \(\mathbb{R}^n\)-এ এক linear equation-এর আঁকা \((n-1)\)-মাত্রিক চ্যাপ্টা জিনিস — লাইন/প্লেনের বড় ভাই
Degrees of Freedom স্বাধীনতার মাত্রা কয়টা সংখ্যা স্বাধীনভাবে বাছা যায়; প্রতিটা কার্যকর শর্ত একটা করে খায়
Homogeneous System সমসত্ত্ব সিস্টেম \(A\mathbf{x}=\mathbf{0}\) — প্রতিটা সিস্টেমের "ছায়াসঙ্গী"
Particular Solution (\(\mathbf{x}^P\)) নির্দিষ্ট সমাধান \(A\mathbf{x}=\mathbf{b}\)-এর যেকোনো একটা সমাধান — সেটের "দাঁড়ানোর জায়গা"
Homogeneous Solution (\(\mathbf{x}^H\)) সমসত্ত্ব সমাধান \(A\mathbf{x}=\mathbf{0}\)-এর সমাধান — সেটের "হাঁটার দিক"; মুকুট-উপপাদ্য: সমাধান \(=\mathbf{x}^P+\mathbf{x}^H\)
Null Space নাল স্পেস homogeneous সমাধানদের গোটা জগৎ — মিশ্রণে বন্ধ, origin-ভেদী (Part IV-এর নায়ক)
Subspace সাবস্পেস যোগ ও স্কেলার-গুণে বন্ধ, origin-ধারী সেট — null space তার প্রথম উদাহরণ (Part IV-এ সংজ্ঞা)
Affine Combination অ্যাফাইন কম্বিনেশন \(c\mathbf{u}+d\mathbf{v}\) যেখানে \(c+d=1\) — সমাধান-জোড়ার এমন মিশ্রণ আবার সমাধান
Affine Set / Flat অ্যাফাইন সেট / ফ্ল্যাট subspace-এর সরানো কপি — লাইন/প্লেন-জাতীয়, origin দিয়ে না-ও যেতে পারে
Solution Manifold সলিউশন ম্যানিফোল্ড ML-এ loss-শূন্য parameter-দের বিশাল উঁচু-মাত্রার সমাধান সেট
Rank–Nullity Theorem র‍্যাঙ্ক–নালিটি উপপাদ্য \(\dim(\text{solution set}) = \#\text{variables} - \#\text{pivots}\) — এখানে প্রথম ঝলক (Part IV-এ পূর্ণরূপ)

Chapter 2.5 — A Taste of the Simplex Method

English Term বাংলা এক লাইনে অর্থ
Linear Programming (LP) লিনিয়ার প্রোগ্রামিং linear শর্তের মধ্যে linear রাশির সেরা মান খোঁজার সমস্যা; "programming" = পরিকল্পনা
Inequality অসমতা \(\le, \ge\)-ওয়ালা শর্ত — সমাধান এক পাশজুড়ে অসংখ্য
Decision Variable সিদ্ধান্ত চলক যে সংখ্যাগুলো আমরা বেছে নিই (কত রুটি, কত কলা)
Objective Function লক্ষ্য ফাংশন যে linear রাশি minimize/maximize করতে চাই
Constraint শর্ত decision variable-দের উপর linear সমতা/অসমতা
Feasible Solution সম্ভাব্য সমাধান সব শর্ত-মানা একটা বিন্দু
Feasible Region সম্ভাব্য অঞ্চল সব feasible বিন্দুর সেট — half-plane-দের ছেদ
Optimal Solution / Optimum সেরা সমাধান feasible region-এর যে বিন্দুতে objective সেরা
Half-plane / Half-space অর্ধ-সমতল এক inequality-র আঁকা ছবি: hyperplane-এর এক পাশ (hyperplane-সহ)
Vertex শীর্ষবিন্দু / কোণা feasible region-এর কোণা — দুই (বা বেশি) constraint-সীমানার ছেদ; optimum এখানেই বসে
Polytope পলিটোপ বেশি মাত্রায় feasible region-এর চেহারা — চ্যাপ্টা মুখ, সোজা কিনারা, ধারালো কোণার "কাটা হীরা"
Convex উত্তল সেটের যেকোনো দুই বিন্দুর সংযোগ-রেখা পুরোটা সেটের ভেতরে — খাঁজ/গর্তহীন
Iso-cost Line (Level Line) সম-খরচ লাইন যে লাইনের সব বিন্দুতে objective-এর মান সমান; এটাকে ঠেলেই optimum খোঁজা
Simplex Method সিমপ্লেক্স পদ্ধতি কোণা থেকে প্রতিবেশী কোণায় হাঁটা, প্রতি হপে উন্নতি — থামলেই optimum
Slack Variable স্ল্যাক চলক inequality-কে equation বানানোর সাহায্যকারী: \(x+y\le22 \iff x+y+s=22,\ s\ge0\)
Tableau টেবলো simplex-এর কাজের টেবিল — augmented matrix-এর আত্মীয়, যার উপর pivot/row operation চলে
Infeasible অসম্ভাব্য শর্তরা পরস্পরবিরোধী — feasible region-ই খালি, optimum নেই
Unbounded অসীমাবদ্ধ region খোলা দিকে objective ভালো হতেই থাকে — সসীম optimum নেই
Interior Point Method ইন্টেরিয়র পয়েন্ট পদ্ধতি simplex-এর প্রতিদ্বন্দ্বী — কিনারা ধরে নয়, region-এর ভেতর দিয়ে optimum-এ যায়
Integer Programming ইন্টিজার প্রোগ্রামিং variable-দের পূর্ণসংখ্যা হতে হবে এমন LP-র ভাই — দেখতে কাছের, কঠিনে বহুদূর

Part III — Matrices ও Linear Transformations

Chapter 3.1 — Matrix কি: টেবিল নয়, transformation

English Term বাংলা এক লাইনে অর্থ
Matrix ম্যাট্রিক্স \(m\) row × \(n\) column-এ সাজানো সংখ্যার আয়তাকার বিন্যাস — একই সাথে data-পাত্র ও space-এর transformation
Transformation রূপান্তর (ট্রান্সফরমেশন) Space-এর ওপর matrix-এর action — vector ঢোকে, নতুন vector বেরোয়
Row সারি (রো) Matrix-এর আনুভূমিক লাইন; \(a_{ij}\)-তে আগের index \(i\)
Column কলাম Matrix-এর খাড়া লাইন; মূলমন্ত্র — column \(j\) = \(A\mathbf{e}_j\) = basis vector-এর গন্তব্য
Entry এন্ট্রি Matrix-এর একটা ঘরের সংখ্যা; \(a_{ij}\) = row \(i\), column \(j\)
Square Matrix বর্গ ম্যাট্রিক্স \(m = n\)-ওয়ালা matrix — row ও column সমান
Row Picture রো পিকচার \(A\mathbf{x}\)-এর \(i\)-তম entry = (row \(i\)) \(\cdot \mathbf{x}\) — হিসাবের হাতিয়ার
Column Picture কলাম পিকচার \(A\mathbf{x}\) = column-দের linear combination — বোঝার হাতিয়ার
Linearity রৈখিকতা (লিনিয়ারিটি) \(A(\mathbf{u}+\mathbf{v})=A\mathbf{u}+A\mathbf{v}\)\(A(c\mathbf{v})=cA\mathbf{v}\) — matrix-এর মূল স্বভাব
Basis Vector ভিত্তি ভেক্টর (বেসিস ভেক্টর) \(\mathbf{e}_1=(1,0)\), \(\mathbf{e}_2=(0,1)\) — যাদের গন্তব্যই matrix-এর column
Design Matrix ডিজাইন ম্যাট্রিক্স ML-এর সেই \(X\) — প্রতি row একটা observation, প্রতি column একটা feature
Adjacency Matrix সংলগ্নতা ম্যাট্রিক্স (অ্যাডজেসেন্সি ম্যাট্রিক্স) নেটওয়ার্কের matrix-রূপ: \(a_{ij}=1\) যদি \(i,j\) যুক্ত, নাহলে \(0\)
Zero Matrix জিরো ম্যাট্রিক্স সব entry \(0\) — পুরো plane-কে origin-এ চুপসে দেয়, undo নেই

Chapter 3.2 — Matrix × Vector: space-কে বাঁকানো

English Term বাংলা এক লাইনে অর্থ
Rotation ঘূর্ণন (রোটেশন) Plane-কে origin-এর চারদিকে \(\theta\) কোণে ঘোরায়; \(R_\theta=\begin{bmatrix}\cos\theta & -\sin\theta\\ \sin\theta & \cos\theta\end{bmatrix}\), দৈর্ঘ্য অটুট
Shear শিয়ার (হেলানো/কাঁচি) তাসের deck-এর মতো হেলিয়ে দেয়; বর্গ→parallelogram হলেও area একই
Scaling স্কেলিং (টানা-চাপা) অক্ষ বরাবর টানা/চাপা; \(\begin{bmatrix}a&0\\0&b\end{bmatrix}\), area factor \(\vert ab\vert\)
Projection প্রজেকশন (ছায়া ফেলা) Plane-কে চুপসে লাইনে নামায়; তথ্য গিলে ফেলে, undo নেই
Unit Square একক বর্গ (ইউনিট স্কয়ার) \((0,0),(1,0),(1,1),(0,1)\) কোণার বর্গ — transformation-এর "পরীক্ষার কাঠি"
Diagonal Matrix ডায়াগোনাল ম্যাট্রিক্স Diagonal ছাড়া সব entry \(0\) — খাঁটি scaling-এর চেহারা
Determinant ডিটারমিন্যান্ট Transformation-এর area scale factor; \(0\) মানে space চ্যাপ্টা
Idempotent আইডেমপোটেন্ট (অভেদঘাতী) \(P^2=P\) — দুইবার করলে নতুন কিছু হয় না, projection-এর সংজ্ঞায়িত ধর্ম
Reflection রিফ্লেকশন (প্রতিফলন) কোনো রেখার সাপেক্ষে আয়নার মতো উল্টে দেয়; orientation বদলায়
Uniform Scaling ইউনিফর্ম স্কেলিং সব দিকে সমান টান (\(a=b\)) — দিক অটুট, শুধু আকার বদল
Orientation অভিমুখ (ওরিয়েন্টেশন) Space-এর "হাত"; reflection উল্টে দিলে det-এর চিহ্ন ঋণাত্মক হয়
Vectorization ভেক্টরাইজেশন অনেক বিন্দু একসাথে এক matrix-গুণে transform — লুপ ছাড়াই

Chapter 3.3 — Matrix Multiplication = Composition of Functions

English Term বাংলা এক লাইনে অর্থ
Matrix Multiplication ম্যাট্রিক্স গুণন (ম্যাট্রিক্স মাল্টিপ্লিকেশন) \((BA)_{ij}\) = (B-র row \(i\))·(A-র column \(j\)); "মোট প্রভাব" হিসাবের মেশিন
Composition সংযোজন (কম্পোজিশন) "আগে \(A\), পরে \(B\)" পরপর চালানো: \((BA)\mathbf{x}=B(A\mathbf{x})\); ডান→বাঁ পড়ো
Product Matrix প্রোডাক্ট ম্যাট্রিক্স দুই transformation-এর কম্বো-effect এক লাফে দেওয়া matrix \(BA\)
Shape Rule শেপ রুল (আকারের নিয়ম) \((m\times n)(n\times p)=(m\times p)\) — ভেতরের \(n\) মিলতেই হবে
Associative সংযোজনশীল (অ্যাসোসিয়েটিভ) \((AB)C=A(BC)\) — composition-এ বন্ধনী কোথায় তা অবান্তর
Distributive বণ্টনশীল (ডিস্ট্রিবিউটিভ) \(A(B+C)=AB+AC\) — linearity থেকে সরাসরি
Commutative বিনিময়যোগ্য (কমিউটেটিভ) \(AB=BA\) হওয়ার ধর্ম — matrix-এ সাধারণত খাটে না (জামা-কোট)
Identity Matrix আইডেন্টিটি ম্যাট্রিক্স "কিছু কোরো না" matrix \(I\); \(IA=AI=A\)
Matrix Power ম্যাট্রিক্স পাওয়ার \(A^n=AA\cdots A\) — একই transformation \(n\) বার
Zero Divisor জিরো ডিভাইজর Nonzero \(A,B\) হয়েও \(AB=0\) হওয়া সম্ভব — সংখ্যার জগতে অসম্ভব চমক
Nilpotent নিলপোটেন্ট (শূন্যঘাতী) Nonzero হয়েও কোনো power শূন্য: \(M^k=0\), যদিও \(M\neq0\)
Angle-Addition Formula কোণ-যোগ সূত্র (অ্যাঙ্গেল-অ্যাডিশন) \(R_\alpha R_\beta=R_{\alpha+\beta}\) থেকে বিনামূল্যে প্রমাণিত \(\cos/\sin(\alpha+\beta)\) সূত্র

Chapter 3.4 — Inverse Matrix: "undo" বোতাম

English Term বাংলা এক লাইনে অর্থ
Inverse Matrix বিপরীত ম্যাট্রিক্স (ইনভার্স ম্যাট্রিক্স) Transformation-এর undo বোতাম: \(A^{-1}A=AA^{-1}=I\)
Invertible বিপরীতযোগ্য (ইনভার্টিবল) যে matrix-এর inverse আছে — তথ্য হারায় না, undo সম্ভব
Singular Matrix সিঙ্গুলার ম্যাট্রিক্স \(ad-bc=0\)-ওয়ালা matrix — space চ্যাপ্টা করে, inverse নেই
Non-singular নন-সিঙ্গুলার Invertible-এর আরেক নাম; \(\det\neq0\)
Gauss-Jordan Elimination গাউস-জর্ডান এলিমিনেশন \([A\mid I]\to[I\mid A^{-1}]\) পথে বড় matrix-এর inverse বের করার রাজপথ
Socks-Shoes Rule মোজা-জুতা নিয়ম (সকস-শুজ) \((AB)^{-1}=B^{-1}A^{-1}\) — খোলার ক্রম পরার ঠিক উল্টো
Inverse Kinematics ইনভার্স কাইনেম্যাটিক্স "হাত ওই বিন্দুতে নিতে জয়েন্ট কত ঘোরাব" — forward-এর উল্টোযাত্রা
Normal Equation নরমাল ইকুয়েশন Linear regression-এর \(\hat{\boldsymbol\beta}=(X^\top X)^{-1}X^\top\mathbf{y}\) — মাঝে inverse
Involution ইনভোলিউশন নিজের inverse নিজেই: \(A^2=I\) (যেমন যেকোনো reflection)
Determinant (2×2) ডিটারমিন্যান্ট \(ad-bc\) — invertible কিনা তার এক-সংখ্যার রোগ-নির্ণয়, আর area factor
solve vs inv সলভ বনাম ইনভ কোডে \(A\mathbf{x}=\mathbf{b}\) সমাধানে inv(A)@b নয়, solve(A,b) — দ্রুত ও stable

Chapter 3.5 — Transpose, Trace ও Special Matrices

English Term বাংলা এক লাইনে অর্থ
Transpose ট্রান্সপোজ Row ↔ column অদলবদল: \((A^\top)_{ij}=A_{ji}\); diagonal-এ আয়না
Trace ট্রেস Diagonal entry-দের যোগফল; \(\operatorname{tr}(AB)=\operatorname{tr}(BA)\) — বিশৃঙ্খলায় টিকে থাকা সংখ্যা
Symmetric Matrix সিমেট্রিক ম্যাট্রিক্স (প্রতিসম) \(S=S^\top\); \(A^\top A\) সবসময় symmetric — Data Science-এর ব্যস্ততম চেহারা
Permutation Matrix পারমুটেশন ম্যাট্রিক্স Identity-র row ঘুঁটে বানানো; entry-দের জায়গা বদলায়, \(P^\top=P^{-1}\)
Triangular Matrix ট্রায়াঙ্গুলার ম্যাট্রিক্স Diagonal-এর এক পাশ পুরো \(0\); diagonal nonzero ⟺ invertible
Block Matrix ব্লক ম্যাট্রিক্স বড় matrix-কে ছোট block-এ ভেঙে "সংখ্যার মতো" গুণ (ক্রম অটুট রেখে)
Main Diagonal মূল কর্ণ (মেইন ডায়াগোনাল) \(a_{11},a_{22},\dots\) — উপরে-বাঁ থেকে নিচে-ডান তির্যক লাইন
Antisymmetric Matrix অ্যান্টিসিমেট্রিক ম্যাট্রিক্স \(K^\top=-K\); diagonal-এ বাধ্যতামূলক \(0\)
Outer Product আউটার প্রোডাক্ট (বাইরের গুণফল) \(\mathbf{x}\mathbf{y}^\top\) — দুই vector থেকে আস্ত (rank-1, singular) matrix
Inner Product ইনার প্রোডাক্ট (dot product) \(\mathbf{x}^\top\mathbf{y}\) — dot product-এর matrix-পোশাক, ফল একটা সংখ্যা
Block Diagonal ব্লক ডায়াগোনাল \(\begin{bmatrix}A&0\\0&B\end{bmatrix}\) — দুটো স্বাধীন transformation পাশাপাশি
Covariance Matrix কোভ্যারিয়েন্স ম্যাট্রিক্স \(X^\top X\)-জাত feature-সম্পর্কের symmetric টেবিল; PCA-র শুরু

Chapter 3.6 — Linear Transformation, Formally

English Term বাংলা এক লাইনে অর্থ
Linear Transformation রৈখিক রূপান্তর (লিনিয়ার ট্রান্সফরমেশন) Additivity ও homogeneity — দুই শর্ত মানা function; প্রতিটাই matrix
Additivity অ্যাডিটিভিটি (যোজনশীলতা) শর্ত ১: \(L(\mathbf{u}+\mathbf{v})=L(\mathbf{u})+L(\mathbf{v})\) — যোগে কারচুপি নেই
Homogeneity হোমোজেনিটি (সমমাত্রিকতা) শর্ত ২: \(L(c\mathbf{v})=cL(\mathbf{v})\) — স্কেলে কারচুপি নেই
Superposition উপরিপাতন (সুপারপজিশন) এক লাইনে দুই শর্ত: \(L(a\mathbf{u}+b\mathbf{v})=aL(\mathbf{u})+bL(\mathbf{v})\)
Affine অ্যাফাইন Linear + translation (\(W\mathbf{x}+\mathbf{b}\)); origin সরে, তাই linear নয়
Translation ট্রান্সলেশন (সরণ) সবাইকে এক দিকে ঠেলা \(\mathbf{v}\mapsto\mathbf{v}+\mathbf{c}\) — origin নড়ায়, nonlinear
Origin Test অরিজিন টেস্ট \(L(\mathbf{0})\neq\mathbf{0}\) হলেই বাতিল — সস্তা ও ধারালো linearity-জেরা
Linear Operator লিনিয়ার অপারেটর Vector space-এর ওপর linear map; derivative, integral, expectation সবাই
Homogeneous Coordinates হোমোজিনিয়াস কোঅর্ডিনেট এক মাত্রা বাড়িয়ে translation-কেও matrix-এ ধরার graphics-কৌশল
Functional ফাংশনাল \(\mathbb{R}^n\to\mathbb{R}\) linear map — কোনো fixed vector-এর সাথে dot product
Standard Basis স্ট্যান্ডার্ড বেসিস \(\mathbf{e}_1,\dots,\mathbf{e}_n\) — সুবিধাজনক, তবে যেকোনো স্বাধীন সেটই চলে
Convolution কনভোলিউশন Blur/sharpen/edge-detect image filter — linear, তাই (বিশাল) matrix-রূপে লেখা যায়

Part IV — Vector Spaces ও তাদের গঠন

Chapter 4.1 — Vector Space ও Subspace

English Term বাংলা এক লাইনে অর্থ
Vector Space ভেক্টর স্পেস এমন set যা addition ও scalar multiplication-এ closed, সাথে ১০টি ভদ্রতা-নিয়ম মানে
Subspace সাবস্পেস বড় space-এর ভেতরের subset যে inherited operation-এ নিজেই একটা vector space
Closure ক্লোজার "বদ্ধতা" — যোগ বা scalar গুণ করলেও ফল ঘরের বাইরে যায় না
Axiom অ্যাক্সিওম (স্বতঃসিদ্ধ) যে মৌলিক নিয়ম ধরে নেওয়া হয়, প্রমাণ লাগে না — vector space-এর এমন ১০টি আছে
Zero Vector জিরো ভেক্টর \(u + 0_V = u\) মানা বিশেষ vector; প্রতিটি subspace-এ থাকতেই হবে
Additive Inverse অ্যাডিটিভ ইনভার্স প্রতিটি \(u\)-এর "উল্টো" \(w\) যেন \(u + w = 0_V\); সবসময় \((-1)\cdot v = -v\)
Subspace Theorem সাবস্পেস থিওরেম Non-empty \(U\) subspace \(\iff\) যেকোনো linear combination \(\mu u_1 + \nu u_2 \in U\)
Linear Combination লিনিয়ার কম্বিনেশন Vector-দের scalar দিয়ে গুণ করে যোগফল: \(\mu u_1 + \nu u_2\)
Polynomial Space \(P_n\) পলিনোমিয়াল স্পেস ডিগ্রি \(\le n\) সব polynomial-এর vector space, zero হলো \(p(t)=0\)
Function Space ফাংশন স্পেস সব \(f:\mathbb{R}\to\mathbb{R}\) function-এর vector space, zero হলো \(f(x)=0\)
Intersection (of subspaces) ইন্টারসেকশন দুই subspace-এর সাধারণ অংশ \(U\cap W\) — আবার subspace (union সাধারণত নয়)
Symmetric Matrix সিমেট্রিক ম্যাট্রিক্স \(A^T = A\) মানা matrix; এদের set \(M_{2\times2}\)-এর একটা subspace

Chapter 4.2 — Linear Independence

English Term বাংলা এক লাইনে অর্থ
Linear Independence লিনিয়ার ইন্ডিপেন্ডেন্স \(0\) বানানোর একমাত্র উপায় সব coefficient \(0\) — প্রত্যেকে নতুন দিক আনে
Linear Dependence লিনিয়ার ডিপেন্ডেন্স \(0\) বানানোর অশূন্য রেসিপি আছে — কেউ একজন redundant
Redundant Vector রিডান্ড্যান্ট ভেক্টর "অপ্রয়োজনীয়" সদস্য যাকে বাকিদের linear combination দিয়ে বানানো যায়
Homogeneous System হোমোজিনিয়াস সিস্টেম \(Mc = 0\) ধাঁচের system; এর অশূন্য solution থাকলে দল dependent
RREF আর-আর-ই-এফ Reduced Row Echelon Form; প্রতিটি column-এ pivot মানেই independent
Pivot পিভট RREF-এ প্রতিটি সারির প্রথম \(1\); pivot-হীন column মানে free variable
Free Variable ফ্রি ভেরিয়েবল Pivot-বিহীন column-এর অজানা, যাকে ইচ্ছেমতো বসানো যায় — dependence-এর চিহ্ন
Determinant Test ডিটারমিন্যান্ট টেস্ট Square ক্ষেত্রে \(\det M \ne 0 \iff\) independent, \(\det M = 0 \iff\) dependent
Multicollinearity মাল্টিকোলিনিয়ারিটি Dataset-এ dependent column (redundant feature) — regression অস্থির করে
Rank (preview) র‍্যাঙ্ক Matrix-এর স্বাধীন column-সংখ্যা; rank \(=\) vector-সংখ্যা হলে independent
Null Space Vector নাল স্পেস ভেক্টর \(Mc = 0\)-এর অশূন্য solution \(c\) — dependence-এর "রেসিপি"

Chapter 4.3 — Basis

English Term বাংলা এক লাইনে অর্থ
Basis বেসিস Span + independent — vector space-এর নিখুঁত ঠিকানা-ব্যবস্থা
Span স্প্যান কয়েকটা vector-এর সব linear combination মিলে যা পৌঁছানো যায়
Coordinates কোঅর্ডিনেটস (স্থানাঙ্ক) \(v = c_1b_1 + \cdots + c_nb_n\)-এর সেই অনন্য \(c\)-column, লেখা \([v]_B\)
Standard Basis স্ট্যান্ডার্ড বেসিস \(\{e_1, \ldots, e_n\}\) — default ভাষা, যাতে coordinates বের করতে কাজ লাগে না
Uniqueness Theorem ইউনিকনেস থিওরেম Basis-এ প্রতিটি vector-কে exactly এক ভাবেই লেখা যায়
Basis Matrix বেসিস ম্যাট্রিক্স \(P = (b_1 \cdots b_n)\); coordinates বের করার সমীকরণ \([v]_B = P^{-1}v\)
Coordinate Isomorphism কোঅর্ডিনেট আইসোমরফিজম Basis fix করলে \(v \mapsto [v]_B\) যোগ-scale রক্ষাকারী নিখুঁত অনুবাদ
Invertible Matrix ইনভার্টিবল ম্যাট্রিক্স \(\mathbb{R}^n\)-এ \(n\)টা vector basis \(\iff\) matrix \(P\) invertible (\(\det P \ne 0\))
Ordered Basis অর্ডার্ড বেসিস ক্রম-ঠিক-করা basis \((b_1, \ldots, b_n)\) — coordinates লিখতে ক্রম জরুরি
Orthonormal Basis (preview) অর্থোনরমাল বেসিস যে বিশেষ basis-এ dot product দিয়েই coordinates মেলে (Part V-এ পূর্ণ)

Chapter 4.4 — Dimension ও Change of Basis

English Term বাংলা এক লাইনে অর্থ
Dimension ডাইমেনশন (মাত্রা) যেকোনো basis-এর সদস্যসংখ্যা — সব basis-এ একই, space-এর নিজস্ব পরিচয়
Finite-Dimensional ফাইনাইট-ডাইমেনশনাল যে space-এর কোনো basis-এ সসীম সংখ্যক vector থাকে
Change of Basis Matrix চেঞ্জ অফ বেসিস ম্যাট্রিক্স \(P = (b_1 \cdots b_n)\) যার column-এ নতুন basis-এর পুরনো-ভাষার রূপ
Exchange Argument এক্সচেঞ্জ আর্গুমেন্ট এক-ঢোকে-এক-বেরোয় যুক্তি: independent দল কখনো basis-এর চেয়ে বড় নয়
Well-Defined ওয়েল-ডিফাইনড সংজ্ঞাটা অর্থবহ কারণ সব basis-এ সংখ্যা একই — dimension তাই বৈধ
Corollary কোরোলারি (উপসিদ্ধান্ত) মূল theorem থেকে সহজে বেরিয়ে আসা ফলাফল, যেমন \(m = n\)
Transit (via standard) ট্রানজিট দুই non-standard basis-এ যেতে standard-কে মাঝপথ ধরা: \(P'^{-1}P\)
PCA পি-সি-এ Data-র নিজের পছন্দের basis-এ চশমা বদলানো — change of basis-এর প্রয়োগ
DCT / Cosine Basis ডিসিটি (কোসাইন বেসিস) JPEG-এ ছবির pixel-কে cosine-wave basis-এ লেখা — compression-এর মূল
Whitening হোয়াইটেনিং Feature-দের নতুন basis-এ রূপান্তর যেন প্রতিটা দিক স্বাধীন হয়

Chapter 4.5 — Kernel, Range ও Rank–Nullity Theorem

English Term বাংলা এক লাইনে অর্থ
Kernel কার্নেল \(L(v) = 0\) মানা সবাই — "চাপা-পড়া" দিক; \(Ax=0\)-এর solution set, subspace
Null Space নাল স্পেস Kernel-এর আরেক নাম — \(Ax = 0\)-এর সব solution-এর subspace
Range রেঞ্জ সম্ভাব্য সব output-এর set; matrix-এ column-দের span
Image ইমেজ Range-এর আরেক নাম — \(\{L(v) : v \in V\}\)
Column Space কলাম স্পেস Matrix-এর range — column-গুলোর span
Rank র‍্যাঙ্ক \(\dim(\text{range})\) — কতগুলো দিক বেঁচে থাকে
Nullity নালিটি \(\dim(\text{kernel})\) — কতগুলো দিক শূন্যে চাপা পড়ে
Rank–Nullity Theorem র‍্যাঙ্ক–নালিটি থিওরেম \(\operatorname{rank} + \operatorname{nullity} = n\) — input-মাত্রার নিখুঁত ভাগবাটোয়ারা
One-to-One (Injective) ওয়ান-টু-ওয়ান (ইনজেক্টিভ) ভিন্ন input সবসময় ভিন্ন output; \(\iff \ker L = \{0\}\)
Onto (Surjective) অন্টো (সারজেক্টিভ) Range পুরো codomain জুড়ে; \(\operatorname{rank} = \dim W\)
Four Fundamental Subspaces ফোর ফান্ডামেন্টাল সাবস্পেস Row space, kernel, range, left null space — matrix-এর চার টুকরো
Left Null Space লেফট নাল স্পেস Codomain \(\mathbb{R}^m\)-এ range-এর বাইরে থাকা অংশ, dimension \(m - r\)
Special Solution স্পেশাল সলিউশন Free variable-প্রতি একটি kernel-basis solution vector

Chapter 4.6 — Linear Map-এর Matrix

English Term বাংলা এক লাইনে অর্থ
Matrix of a Linear Map ম্যাট্রিক্স অফ আ লিনিয়ার ম্যাপ Basis-চুক্তিতে map-এর সংখ্যা-টেবিল \([L]^{B'}_B\), column \(j = [L(b_j)]_{B'}\)
Bridge Equation ব্রিজ ইকুয়েশন \([L(v)]_{B'} = [L]^{B'}_B\,[v]_B\) — abstract map \(=\) matrix গুণ
Column Rule কলাম রুল \(j\)-তম column \(= j\)-তম basis vector-এর image-এর output-ভাষার coordinates
Composition কম্পোজিশন পরপর দুই map চালানো; \([L_2 \circ L_1] = [L_2][L_1]\) — matrix গুণের জন্মরহস্য
Similar Matrices সিমিলার ম্যাট্রিক্স \(M' = P^{-1}MP\)-সম্পর্কিত matrix — একই map-এর ভিন্ন পোশাক
Diagonal Matrix ডায়াগোনাল ম্যাট্রিক্স শুধু diagonal-এ entry থাকা matrix; চালাক basis-এ map এমন হয়ে সরল হয়
Invariant ইনভ্যারিয়েন্ট Basis বদলেও যা অটুট থাকে — rank, determinant, trace
Trace ট্রেস Diagonal entry-দের যোগফল; similar matrix-দের মধ্যে সমান থাকে
Eigenvector (preview) আইগেনভেক্টর Map-এর "নিজস্ব দিক" \(L(b_i) = \lambda_i b_i\); এই basis-এ matrix diagonal
Jacobian জ্যাকোবিয়ান Nonlinear map-এর প্রতি-মুহূর্তের সেরা linear approximation-এর matrix
Commutative Square কম্যুটেটিভ স্কয়ার দোতলা বাড়ির ছবি: যে পথেই যাও (map বা matrix), উত্তর এক

Part V

English Term বাংলা এক লাইনে অর্থ
Orthogonal অর্থোগোনাল / লম্ব দুই vector-এর মধ্যে ৯০° কোণ: \(u^Tv = 0\)
Orthogonal Projection অর্থোগোনাল প্রজেকশন কোনো vector-এর "ছায়া" একটা লাইন/subspace-এর ওপর — সেখানকার সবচেয়ে কাছের বিন্দু
Projection formula প্রজেকশনের সূত্র লাইন \(a\)-এর ওপর \(b\)-এর ছায়া: \(\text{proj}_a(b) = \frac{a^Tb}{a^Ta}\,a\)
Residual রেসিডুয়াল / অবশিষ্ট ভুল মূল vector থেকে ছায়া বাদ দিলে যা থাকে: \(e = b - p\) — সবসময় লম্ব-জগতে
Orthogonality Principle অর্থোগোনালিটি প্রিন্সিপল "সবচেয়ে কাছের" মানেই residual লম্ব — best approximation-এর চেনার চিহ্ন
Idempotent আইডেমপোটেন্ট দুবার প্রয়োগ = একবার প্রয়োগ: \(P^2 = P\) (ছায়ার ছায়া = ছায়া)
Orthogonal Set অর্থোগোনাল সেট যে vector-দলের প্রত্যেক জোড়া পরস্পর লম্ব
Orthonormal Set অর্থোনরমাল সেট orthogonal + প্রত্যেকের দৈর্ঘ্য ১ — লম্ব ও মাপা
Orthonormal Basis অর্থোনরমাল বেসিস orthonormal vector দিয়ে গড়া basis — coordinate বের হয় শুধু dot product-এ
Gram–Schmidt Procedure গ্রাম–শ্মিট প্রসিডিউর সাধারণ basis-কে ধাপে ধাপে ছায়া-বাদ-দিয়ে orthonormal বানানোর অ্যালগরিদম
QR Decomposition কিউ-আর ডিকম্পোজিশন \(A = QR\): orthonormal-column \(Q\) আর upper triangular \(R\)-এ ভাঙন — Gram–Schmidt-এর হিসাবের খাতা
Orthogonal Matrix অর্থোগোনাল ম্যাট্রিক্স square matrix যার column-রা orthonormal: \(Q^TQ = QQ^T = I\), তাই \(Q^{-1} = Q^T\)
Orthogonal Complement অর্থোগোনাল কমপ্লিমেন্ট \(S^\perp\) — subspace \(S\)-এর প্রতিটা vector-এর সাথে লম্ব সব vector-এর subspace
Direct Sum ডাইরেক্ট সাম \(V = S \oplus S^\perp\) — প্রতিটা vector-এর অনন্য ভাঙন "S-অংশ + লম্ব-অংশ"
Fundamental Theorem of Linear Algebra (FTLA) লিনিয়ার অ্যালজেব্রার মৌলিক উপপাদ্য চার fundamental subspace জোড়ায় জোড়ায় orthogonal complement: \(C(A^T) \perp N(A)\), \(C(A) \perp N(A^T)\)
Fredholm Alternative ফ্রেডহোম অল্টারনেটিভ \(Ax = b\) সমাধানযোগ্য \(\iff\) \(b \perp N(A^T)\) — solvability-র লম্বতা-পরীক্ষা
Least Squares Problem লিস্ট স্কোয়ার্স প্রবলেম সমাধানহীন \(Ax = b\)-তে ভুলের বর্গের যোগফল minimize: \(\min_x \|Ax - b\|^2\)
Least Squares Approximate Solution লিস্ট স্কোয়ার্স আনুমানিক সমাধান \(\hat{x}\) — যে মান ভুলটা সবচেয়ে ছোট করে (সাধারণত \(A\hat{x} \neq b\)!)
Tall Matrix টল ম্যাট্রিক্স সারি > column (\(m > n\)) — সমীকরণ বেশি, অজানা কম
Over-determined System ওভার-ডিটারমাইন্ড সিস্টেম অজানার চেয়ে সমীকরণ বেশি — প্রায় কখনোই exact সমাধান নেই
Normal Equations নরমাল ইকুয়েশনস least squares-এর সমাধান-সমীকরণ: \(A^TA\hat{x} = A^Tb\) — জন্ম residual-এর লম্বতা থেকে
Gram Matrix গ্রাম ম্যাট্রিক্স \(A^TA\) — column-দের পারস্পরিক dot product-এর টেবিল
Projection Matrix প্রজেকশন ম্যাট্রিক্স \(P = A(A^TA)^{-1}A^T\) — column space-এ ছায়া ফেলার মেশিন (\(P^2 = P\), \(P^T = P\))
Pseudo-inverse সিউডো-ইনভার্স \(A^\dagger = (A^TA)^{-1}A^T\) — tall matrix-এর "inverse-এর বদলি"; \(\hat{x} = A^\dagger b\)
Weighted Least Squares ওয়েটেড লিস্ট স্কোয়ার্স measurement-ভেদে গুরুত্ব \(w_i\) দিয়ে minimize — সমাধান \((A^TWA)^{-1}A^TWb\)
Regression রিগ্রেশন data fitting-এর জগতে least squares-এর ডাকনাম — feature থেকে outcome অনুমান
Data Fitting ডেটা ফিটিং মাপা ডেটার সম্পর্ককে অল্প parameter-এর মডেল দিয়ে ধরা
Feature ফিচার যে রাশি(গুলো) আমরা জানি ও যা থেকে অনুমান করি — independent variable \(x\)
Outcome / Response Variable আউটকাম / রেসপন্স যে রাশি অনুমান করতে চাই — dependent variable \(y\)
Model / Predictor মডেল / প্রেডিক্টর অজানা সম্পর্ক \(f\)-এর আমাদের বানানো অনুমান \(\hat{f}\)
Prediction প্রেডিকশন মডেলের দেওয়া অনুমিত মান: \(\hat{y} = \hat{f}(x)\)
Basis Function বেসিস ফাংশন মডেলের building block \(f_j(x)\) — আমরা বেছে নিই (\(1, x, x^2, (x-a)_+, \dots\))
Parameter প্যারামিটার মডেলের শেখা-হওয়া সহগ \(\theta_j\) — ডেটা থেকে least squares-এ নির্ধারিত
Linear in the Parameters প্যারামিটারে লিনিয়ার মডেল \(\theta\)-এর linear combination — \(x\)-এ nonlinear হলেও যন্ত্র সেই least squares
Design Matrix ডিজাইন ম্যাট্রিক্স \(A_{ij} = f_j(x^{(i)})\) — সারিতে ডেটা, column-এ basis function
Prediction Error প্রেডিকশন এরর আসল আর অনুমানের ফারাক: \(r^{(i)} = y^{(i)} - \hat{y}^{(i)}\)
RMS Error আরএমএস এরর ভুলের root-mean-square \(\sqrt{\frac{1}{N}\sum r_i^2}\) — "গড়ে কত ভুল"
Vandermonde Matrix ভ্যান্ডারমন্ড ম্যাট্রিক্স polynomial fit-এর design matrix — column-রা \(1, x, x^2, \dots\) ডেটায় মূল্যায়িত
Straight-line Fit সরলরেখা ফিট \(\hat{f}(x) = \theta_1 + \theta_2 x\) — ঢাল আসে correlation থেকে: \(\hat\theta_2 = \rho\,\mathrm{std}(y)/\mathrm{std}(x)\)
Polynomial Fit পলিনোমিয়াল ফিট basis \(1, x, \dots, x^{p-1}\) — degree বাড়ালে train error কমে, কিন্তু…
Piecewise-linear Fit পিসওয়াইজ-লিনিয়ার ফিট hinge function \((x - a)_+\) দিয়ে ভাঁজওয়ালা লাইন fit — knot-এ ঢাল বদলায়
Knot Point নট পয়েন্ট piecewise-linear মডেলে যেখানে ঢাল বদলানোর অনুমতি
Trend Line ট্রেন্ড লাইন time series-এ সময়ের বিপরীতে straight-line fit — ঢালটাই trend
Seasonal Component সিজনাল কম্পোনেন্ট নির্দিষ্ট পর্বে (যেমন ১২ মাসে) নিজেকে repeat করা অংশ — periodic basis দিয়ে fit
Auto-regressive (AR) Model অটো-রিগ্রেসিভ মডেল আগের \(M\)টা মান থেকে পরের মান অনুমান — time series-এর regression
Generalization জেনারালাইজেশন না-দেখা নতুন ডেটাতেও ভালো prediction করার ক্ষমতা — মডেলের আসল গুণ
Out-of-sample Validation আউট-অব-স্যাম্পল ভ্যালিডেশন শেখায় ব্যবহার-না-হওয়া ডেটায় মডেল যাচাই
Training Set ট্রেনিং সেট ডেটার যে অংশ (\(\sim 80\%\)) দিয়ে \(\hat\theta\) শেখা হয়
Test / Validation Set টেস্ট / ভ্যালিডেশন সেট লুকিয়ে-রাখা অংশ (\(\sim 20\%\)) — মডেলের সততা-পরীক্ষার প্রশ্নপত্র
Over-fitting ওভার-ফিটিং train error \(\ll\) test error — মডেল ধরন না শিখে noise মুখস্থ করেছে
Under-fitting আন্ডার-ফিটিং মডেল এত সরল যে ডেটার আসল ধরনটাই ধরতে পারে না — দুই error-ই বড়
Cross-validation ক্রস-ভ্যালিডেশন ডেটাকে \(k\) ভাঁজে ভাগ করে প্রতিবার এক ভাঁজ লুকিয়ে যাচাই, তারপর গড়
Feature Engineering ফিচার ইঞ্জিনিয়ারিং ভালো prediction-এর জন্য design matrix-এর নতুন column (নতুন feature) বানানোর শিল্প
Standardization (z-scoring) স্ট্যান্ডার্ডাইজেশন feature-কে \((x - b)/a\) রূপে গড় \(0\), std \(1\)-এ আনা — prediction বদলায় না, স্থিতি বাড়ে
Winsorizing উইনসরাইজিং চরম/সন্দেহজনক মানগুলোকে একটা থ্রেশহোল্ডে ছেঁটে দেওয়া
Log Transform লগ ট্রান্সফর্ম বিশাল রেঞ্জের positive মানকে \(\log x\) (বা \(\log(x+1)\))-এ সংকুচিত করা
One-hot Encoding ওয়ান-হট এনকোডিং \(l\)-মানের categorical feature-কে \(l-1\)টা \(0/1\) column-এ ভাঙা
Dummy Variable Trap ডামি ভেরিয়েবল ট্র্যাপ সব category-র column + constant রাখলে column-রা dependent — \(A^TA\) singular
Extrapolation এক্সট্রাপোলেশন ডেটার সীমার বাইরে prediction — সবসময় বাড়তি ঝুঁকির

Part VI — Eigenvalues, Eigenvectors ও Decompositions

Chapter 6.1 — Determinant

English Term বাংলা এক লাইনে অর্থ
Determinant নির্ণায়ক (ডিটারমিন্যান্ট) Square matrix-এর একটাই সংখ্যা: রূপান্তরে area/volume কতগুণ হয় তার signed scale factor
Minor মাইনর \(i\)-নং row ও \(j\)-নং column কেটে ফেলার পর যে ছোট matrix থাকে, তার determinant (\(M_{ij}\))
Cofactor কোফ্যাক্টর Minor-এর সাথে দাবার-বোর্ড চিহ্ন: \(C_{ij} = (-1)^{i+j}M_{ij}\)
Cofactor Expansion কোফ্যাক্টর এক্সপ্যানশন যেকোনো row/column ধরে বড় determinant-কে ছোট determinant-এ ভাঙা: \(\det A = \sum_j a_{ij}C_{ij}\)
Singular Matrix সিঙ্গুলার ম্যাট্রিক্স \(\det = 0\)-ওয়ালা matrix — জায়গা চ্যাপ্টা করে ফেলে, inverse নেই
Orientation Flip ওরিয়েন্টেশন উল্টানো \(\det < 0\)-এর মানে: রূপান্তরটা জায়গাকে আয়নার মতো উল্টে দিয়েছে
Product Rule (of det) প্রোডাক্ট রুল \(\det(AB) = \det A \cdot \det B\) — scale factor-রা গুণ হয়
Parallelepiped প্যারালেলেপাইপড তিন vector-এ গড়া হেলানো ইট — এর signed আয়তনই \(3\times3\) determinant
Jacobian জ্যাকোবিয়ান Calculus-এ variable বদলানোর সময় "স্থানীয় area/volume scale" মাপা determinant
Shoelace Formula জুতার-ফিতা সূত্র Polygon-এর কোণার স্থানাঙ্ক থেকে ক্ষেত্রফল — ভেতরে ভেতরে determinant-এরই হিসাব

Chapter 6.2 — Eigenvalues ও Eigenvectors

English Term বাংলা এক লাইনে অর্থ
Eigenvector আইগেনভেক্টর যে nonzero vector matrix-এর ধাক্কায় দিক বদলায় না, শুধু scale হয়: \(Av = \lambda v\)
Eigenvalue আইগেনভ্যালু Eigenvector-টা কতগুণ লম্বা/খাটো হলো — সেই scale factor \(\lambda\)
Eigenspace আইগেনস্পেস একই \(\lambda\)-র সব eigenvector + শূন্য vector: \(E_\lambda = N(A - \lambda I)\), একটা subspace
Characteristic Polynomial ক্যারেক্টারিস্টিক পলিনোমিয়াল \(\det(A - \lambda I)\) — এর root-গুলোই eigenvalue
Trace ট্রেস Diagonal entry-দের যোগফল; সবসময় \(= \sum\lambda_i\) — হাতের হিসাবের ফ্রি চেক
Algebraic Multiplicity অ্যালজেব্রেয়িক মাল্টিপ্লিসিটি Characteristic polynomial-এ root \(\lambda\) কতবার এসেছে
Geometric Multiplicity জিওমেট্রিক মাল্টিপ্লিসিটি \(\dim E_\lambda\) — ওই \(\lambda\)-র কয়টা independent eigenvector আছে
Defective Matrix ডিফেক্টিভ ম্যাট্রিক্স Geometric < algebraic multiplicity — eigenvector ঘাটতিওয়ালা matrix (যেমন shear), diagonalize হয় না
Power Iteration পাওয়ার ইটারেশন বারবার \(A\) গুণ + normalize — সবচেয়ে বড় \(\vert \lambda\vert\)-র eigenvector-এ পৌঁছানোর algorithm (PageRank-এর প্রাণ)

Chapter 6.3 — Diagonalization

English Term বাংলা এক লাইনে অর্থ
Diagonal Matrix ডায়াগোনাল ম্যাট্রিক্স Diagonal-এর বাইরে সব শূন্য — যার power/inverse/সবকিছু entry ধরে ধরে হয়
Diagonalization ডায়াগোনালাইজেশন \(A = PDP^{-1}\) — eigenvector-চশমা পরলে matrix-টা নিছক diagonal সংখ্যার তালিকা
Diagonalizable ডায়াগোনালাইজেবল যে matrix-এর \(n\)টা independent eigenvector আছে — \(A = PDP^{-1}\) লেখা সম্ভব
Eigenbasis আইগেনবেসিস পুরো space-এর এমন basis যার প্রতিটা vector-ই \(A\)-র eigenvector
Similar Matrices সিমিলার ম্যাট্রিসেস \(B = P^{-1}AP\) — একই transformation, ভিন্ন চশমায়; eigenvalue-রা অভিন্ন
Markov Matrix মার্কভ ম্যাট্রিক্স প্রতি column-এর যোগফল \(1\), entry \(\geq 0\) — সম্ভাবনার প্রবাহ; \(\lambda = 1\) গ্যারান্টিড
Steady State স্টেডি স্টেট Markov chain-এ অনন্তকাল পরের স্থির বিন্যাস — \(\lambda = 1\)-এর eigenvector
Matrix Exponential ম্যাট্রিক্স এক্সপোনেনশিয়াল \(e^{At} = Pe^{\Lambda t}P^{-1}\) — differential equation system-এর সমাধান-যন্ত্র
Jordan Block জর্ডান ব্লক Defective matrix-দের জন্য diagonalization-এর "যতটুকু সম্ভব" সংস্করণের building block

Chapter 6.4 — Symmetric Matrices ও Spectral Theorem

English Term বাংলা এক লাইনে অর্থ
Spectral Theorem স্পেকট্রাল থিওরেম Symmetric matrix মানেই: সব eigenvalue real, আর orthonormal eigenvector-এ \(A = Q\Lambda Q^T\)
Spectral Decomposition স্পেকট্রাল ডিকম্পোজিশন \(A = \sum\lambda_iq_iq_i^T\) — symmetric matrix-কে লম্ব rank-1 স্তরে ভাঙা
Orthogonal Diagonalization অর্থোগোনাল ডায়াগোনালাইজেশন \(P^{-1}\)-এর বদলে \(Q^T\) — rotation-চশমাতেই diagonalize করা (শুধু symmetric-এ সম্ভব)
Gram Matrix গ্রাম ম্যাট্রিক্স \(A^TA\) — সবসময় symmetric ও positive semidefinite; least squares থেকে SVD সবখানে হাজির
Covariance Matrix কোভ্যারিয়ান্স ম্যাট্রিক্স ডেটার ছড়ানো-জড়ানোর symmetric matrix — \((i,j)\) entry = feature \(i\)\(j\)-এর covariance
Adjacency Matrix অ্যাডজেসেন্সি ম্যাট্রিক্স Graph-এর সংযোগ-তালিকা matrix আকারে: \((i,j) = 1\) যদি \(i\)\(j\) edge থাকে
Graph Laplacian গ্রাফ লাপ্লাসিয়ান \(L = D - A\) — network-এর "কম্পন-matrix"; eigenvalue-রা বলে দল কয়টা
Spectral Clustering স্পেকট্রাল ক্লাস্টারিং Laplacian-এর ছোট eigenvalue-র eigenvector দিয়ে network-এ community খুঁজে বের করা

Chapter 6.5 — Positive Definite Matrices ও Quadratic Forms

English Term বাংলা এক লাইনে অর্থ
Quadratic Form দ্বিঘাত রূপ (কোয়াড্রাটিক ফর্ম) \(Q(x) = x^TAx\) — matrix দিয়ে লেখা দ্বিঘাত রাশি, যার landscape bowl/saddle/পাহাড়
Positive Definite পজিটিভ ডেফিনিট সব nonzero \(x\)-এ \(x^TAx > 0\) — নিখুঁত bowl; সব eigenvalue \(> 0\)
Positive Semidefinite পজিটিভ সেমিডেফিনিট \(x^TAx \geq 0\) — bowl, তবে কোনো দিকে চ্যাপ্টা মেঝে থাকতে পারে; eigenvalue \(\geq 0\)
Negative Definite নেগেটিভ ডেফিনিট সব দিকে \(x^TAx < 0\) — উল্টানো bowl (পাহাড়চূড়া); সব eigenvalue \(< 0\)
Indefinite ইনডেফিনিট কোনো দিকে ধনাত্মক, কোনো দিকে ঋণাত্মক — saddle (ঘোড়ার জিন); eigenvalue-দের sign মিশ্র
Leading Principal Minor লিডিং প্রিন্সিপাল মাইনর উপরের-বাঁ কোণার \(k\times k\) টুকরার determinant — সব \(> 0\) হলেই positive definite (Sylvester test)
Principal Axes Theorem প্রিন্সিপাল অ্যাক্সেস থিওরেম Eigenvector-অক্ষে গেলে quadratic form-এর cross term উধাও: \(Q = \sum\lambda_iy_i^2\) — ellipse-এর আসল অক্ষ
Hessian হেসিয়ান Function-এর দ্বিতীয় derivative-দের symmetric matrix — positive definite হলে সেই বিন্দু minimum
Convexity উত্তলতা (কনভেক্সিটি) Bowl-আকৃতির function — যার সব জায়গায় Hessian positive semidefinite; optimization-এর স্বর্গ
Condition Number কন্ডিশন নাম্বার \(\kappa = \sigma_{\max}/\sigma_{\min}\) — ellipse কত সরু / সমাধান সংখ্যাগতভাবে কত নড়বড়ে

Chapter 6.6 — Singular Value Decomposition (SVD)

English Term বাংলা এক লাইনে অর্থ
Singular Value Decomposition (SVD) সিঙ্গুলার ভ্যালু ডিকম্পোজিশন \(A = U\Sigma V^T\) — যেকোনো matrix = rotation × stretch × rotation; কোনো শর্ত ছাড়াই
Singular Value সিঙ্গুলার ভ্যালু \(\sigma_i = \sqrt{\lambda_i(A^TA)}\) — অক্ষ ধরে stretch-এর পরিমাণ; সবসময় real ও \(\geq 0\), বড়→ছোট সাজানো
Right Singular Vector রাইট সিঙ্গুলার ভেক্টর \(V\)-এর column \(v_i\) — ইনপুট জগতের "সঠিক লম্ব অক্ষ" (\(A^TA\)-র eigenvector)
Left Singular Vector লেফট সিঙ্গুলার ভেক্টর \(U\)-এর column \(u_i\) — আউটপুট জগতের লম্ব অক্ষ: \(Av_i = \sigma_iu_i\)
Rank-1 Matrix র‍্যাঙ্ক-ওয়ান ম্যাট্রিক্স একটা column × একটা row (\(uv^T\)) — SVD-র একেকটা "স্তর"
Low-Rank Approximation লো-র‍্যাঙ্ক অ্যাপ্রক্সিমেশন \(A_k = \sum_{i\leq k}\sigma_iu_iv_i^T\) — ভারী \(k\)টা স্তর রেখে বাকি ছাঁটা; compression-এর ভিত্তি
Eckart–Young Theorem একার্ট–ইয়াং থিওরেম SVD-র truncation-ই প্রমাণিত সেরা rank-\(k\) approximation; error ঠিক \(\sigma_{k+1}\)
Frobenius Norm ফ্রোবেনিয়াস নর্ম সব entry-র বর্গযোগফলের বর্গমূল \(= \sqrt{\sum\sigma_i^2}\) — matrix-এর "মোট শক্তি"
Pseudoinverse সিউডোইনভার্স \(A^+ = V\Sigma^+U^T\) — singular/rectangular matrix-এর "যতটা সম্ভব inverse"; least squares-এর engine
Economy (Thin) SVD ইকোনমি এসভিডি শূন্য-\(\sigma\)-র অংশ বাদ দিয়ে ছোট \(U, \Sigma, V\) রাখা (full_matrices=False) — বড় ডেটার memory-বাঁচানো রূপ

Chapter 6.7 — PCA

English Term বাংলা এক লাইনে অর্থ
Principal Component Analysis (PCA) প্রিন্সিপাল কম্পোনেন্ট অ্যানালাইসিস ডেটার সবচেয়ে ছড়ানো লম্ব দিকগুলো খুঁজে অল্প dimension-এ নামানো — covariance matrix-এর eigen/SVD-র প্রয়োগ
Principal Component প্রিন্সিপাল কম্পোনেন্ট ডেটার \(i\)-তম সেরা দিক — covariance matrix-এর \(i\)-তম eigenvector (variance-ক্রমে)
Centering সেন্টারিং প্রতিটা feature থেকে তার গড় বিয়োগ — PCA-র বাধ্যতামূলক প্রথম ধাপ
Standardization স্ট্যান্ডার্ডাইজেশন গড় বিয়োগ + standard deviation দিয়ে ভাগ — ভিন্ন এককের feature-দের সমান মাঠে আনা
Explained Variance Ratio এক্সপ্লেইন্ড ভ্যারিয়ান্স রেশিও \(\lambda_i/\sum\lambda_j\)\(i\)-নং component ডেটার মোট ছড়ানোর কত ভাগ ধরে
Scree Plot স্ক্রি প্লট Eigenvalue-দের বড়→ছোট গ্রাফ — "কনুই" দেখে কয়টা component রাখবে ঠিক করা
Rayleigh Quotient রেলে কোশেন্ট \(\frac{x^TAx}{x^Tx}\) — যা maximize করলে সবচেয়ে বড় eigenvalue-র দিক মেলে; PCA-র optimization-হৃদয়

Part VII — Applied Linear Algebra: Data Science

Chapter 7.1 — Least Squares Classification

English Term বাংলা এক লাইনে অর্থ
Classification ক্লাসিফিকেশন (শ্রেণিবিভাজন) Output সংখ্যা নয়, কয়েকটা শ্রেণি/সিদ্ধান্ত: spam নাকি নয়, "৩" নাকি "৭" — feature থেকে label predict
Label লেবেল Categorical outcome \(y\) যা মাত্র কয়েকটা মান নেয়; classifier-এ \(\pm 1\) সংখ্যায় বদলানো হয়
Boolean Classification বুলিয়ান ক্লাসিফিকেশন দুই-শ্রেণির (binary) কেস: \(y \in \{-1, +1\}\), model \(\hat{f}:\mathbb{R}^n \to \{-1,+1\}\)
Least Squares Classifier লিস্ট স্কোয়ার্স ক্লাসিফায়ার \(\hat{f}(x) = \text{sign}(x^T\beta + v)\)\(\pm 1\) label-এ regression চালিয়ে বানানো প্রথম ML classifier
Sign Function সাইন ফাংশন continuous স্কোরকে \(\pm 1\) সিদ্ধান্তে রূপ দেয়: \(\ge 0\) হলে \(+1\), নাহলে \(-1\)
Decision Boundary ডিসিশন বাউন্ডারি যেখানে সিদ্ধান্ত বদলায়: \(\{x : x^T\beta + v = 0\}\) — একটা hyperplane, normal \(\beta\)
Confusion Matrix কনফিউশন ম্যাট্রিক্স classifier-এর রিপোর্ট কার্ড: TP/FN/FP/TN — ৪ ঘরের টেবিল
Error Rate এরর রেট ভুল-classify হওয়া নমুনার অনুপাত: \((N_{fp} + N_{fn})/N\)
True Positive Rate (Recall) ট্রু পজিটিভ রেট (রিকল) আসল \(+1\)-দের কত ভাগ ধরা পড়ল: \(N_{tp}/(N_{tp}+N_{fn})\)
False Positive Rate ফলস পজিটিভ রেট আসল \(-1\)-দের কত ভাগ ভুলে \(+1\) বলা হলো: \(N_{fp}/(N_{fp}+N_{tn})\)
Decision Threshold ডিসিশন থ্রেশহোল্ড নিয়ম \(\text{sign}(\tilde{f}(x) - \alpha)\); \(\alpha\) সরালে boundary parallel সরে, TPR ও FPR-এর দর কষাকষি
One-vs-Others ওয়ান-ভার্সাস-আদারস \(K\)-শ্রেণির কৌশল: প্রতি শ্রেণির আলাদা স্কোর-মেশিন, রায় \(\hat{f}(x) = \operatorname{argmax}_k \tilde{f}_k(x)\)
Baseline Model বেসলাইন মডেল তুলনার ভিত্তিরেখা — এর চেয়ে খারাপ করলে বুঝবে গলদ আছে; least squares classifier ক্লাসিক baseline

Chapter 7.2 — Regularized Least Squares

English Term বাংলা এক লাইনে অর্থ
Overfitting ওভারফিটিং Training-এ নিখুঁত কিন্তু বাস্তবে ধোঁকা — model noise-ও মুখস্থ করে ফেলে, সাধারণীকরণ করে না
Multi-objective (Bi-criterion) LS মাল্টি-অবজেক্টিভ লিস্ট স্কোয়ার্স দুটো লক্ষ্য একসাথে: \(\underset{x}{\min}\; J_1(x) + \lambda J_2(x)\) — রান্নায় স্বাদ বনাম স্বাস্থ্য
Weight \(\lambda\) ওয়েট (ল্যাম্বডা) দুই লক্ষ্যের আপেক্ষিক গুরুত্বের knob; ছোট = fit-কে পাত্তা, বড় = penalty-কে
Optimal Trade-off Curve অপটিমাল ট্রেড-অফ কার্ভ \(\lambda\) ঘোরালে \((J_1, J_2)\)-র যে বক্ররেখা — একটা কমাতে অন্যটা বাড়ে
Pareto Optimal পারেটো অপটিমাল trade-off curve-এর বিন্দু: \(J_1\) কমাতে চাইলে \(J_2\) বাড়াতেই হবে, বিনা মূল্যে উন্নতি অসম্ভব
Ridge Regression রিজ রিগ্রেশন \(\underset{x}{\min}\; \|Ax-b\|^2 + \lambda\|x\|^2\) — fit + "parameter ছোট রাখো" penalty
Tikhonov Regularization টিখোনভ রেগুলারাইজেশন Ridge-এরই আরেক নাম (\(\ell_2\)-regularized LS); ill-posed inverse problem-এ অপরিহার্য
Regularization Term (Penalty) রেগুলারাইজেশন টার্ম \(\lambda\|x\|^2\) পদ — model-এর জটিলতার ওপর জরিমানা বসায়
Regularization Parameter রেগুলারাইজেশন প্যারামিটার penalty-র ওজন \(\lambda\); এটাই তোমার প্রথম hyperparameter
Closed-form Solution ক্লোজড-ফর্ম সলিউশন Ridge-এর বন্ধ-রূপ: \(\hat{x}(\lambda) = (A^TA + \lambda I)^{-1}A^Tb\) — diagonal-এ পাহাড় (ridge)
Bias-Variance Trade-off বায়াস-ভ্যারিয়েন্স ট্রেড-অফ \(\lambda\) ছোট = low bias/high variance (over-fit), বড় = high bias/low variance (under-fit)
Regularization Path রেগুলারাইজেশন পাথ \(\lambda\)-র সাথে coefficient-দের শূন্যের দিকে সংকোচন-বক্ররেখা
Shrinkage শ্রিংকেজ Ridge coefficient-দের শূন্যের দিকে টানে (কিন্তু ঠিক শূন্য করে না)
Weight Decay ওয়েট ডিকে neural network training-এ loss-এ \(\lambda\|W\|^2\) যোগ — সেটাই এই ridge penalty
Multicollinearity মাল্টিকলিনিয়ারিটি দুই feature প্রায় একই তথ্য বহন করলে \(A^TA\) প্রায় singular; ridge এর ওষুধ

Chapter 7.3 — Constrained Least Squares

English Term বাংলা এক লাইনে অর্থ
Constrained Least Squares কনস্ট্রেইনড লিস্ট স্কোয়ার্স \(\underset{x}{\min}\;\|Ax-b\|^2\) শর্তসাপেক্ষে \(Cx = d\) — কঠোর, অলঙ্ঘনীয় শর্ত
Equality Constraint ইকুয়ালিটি কনস্ট্রেইন্ট \(Cx = d\) সমতা-শর্ত; সমাধানকে একটা affine subspace-এ বেঁধে রাখে
Objective অবজেক্টিভ যা minimize করছি — এখানে fit-error \(\|Ax-b\|^2\)
Lagrange Multiplier ল্যাগ্রাঞ্জ মাল্টিপ্লায়ার নতুন ভেরিয়েবল \(z\) (প্রতি constraint-এ একটা) যা দিয়ে constraint-কে objective-এ মেশানো হয়
Lagrangian ল্যাগ্রাঞ্জিয়ান যৌথ ফাংশন \(L(x,z) = \|Ax-b\|^2 + z^T(Cx-d)\) — constrained সমস্যাকে "মুক্ত" করে
KKT System কে-কে-টি সিস্টেম \(\begin{bmatrix}2A^TA & C^T\\ C & 0\end{bmatrix}\begin{bmatrix}x\\ z\end{bmatrix} = \begin{bmatrix}2A^Tb\\ d\end{bmatrix}\) — এক বড় linear ব্যবস্থা, iteration নয়
Lagrange Condition ল্যাগ্রাঞ্জ কন্ডিশন Optimum-এ objective-এর gradient \(\parallel\) constraint normal — fig01-এর দুই সমান্তরাল তীর
Least Norm Problem লিস্ট নর্ম প্রবলেম \(\underset{x}{\min}\;\|x\|^2\) s.t. \(Cx = d\) — under-determined সমস্যার সবচেয়ে মিতব্যয়ী সমাধান
Least Norm Formula লিস্ট নর্ম সূত্র \(\hat{x} = C^T(CC^T)^{-1}d\) — origin থেকে constraint-এর লম্ব পাদবিন্দু
Shadow Price শ্যাডো প্রাইস Multiplier \(z_i\)-র অর্থনৈতিক মানে: constraint সামান্য শিথিল করলে objective কতটা ভালো হবে (প্রান্তিক মূল্য)
Spline Fitting স্প্লাইন ফিটিং টুকরো-টুকরো বহুপদীকে seam-এ মসৃণ (মান ও ঢাল মেলানো) জোড়া — constrained LS-এর ক্লাসিক প্রয়োগ
Minimum Energy Control মিনিমাম এনার্জি কন্ট্রোল লক্ষ্যে ঠিক পৌঁছানোর least-norm force — মৃদু, ছড়ানো ধাক্কা = কম জ্বালানি

Chapter 7.4 — Clustering, Graphs ও PageRank

English Term বাংলা এক লাইনে অর্থ
Unsupervised Learning আনসুপারভাইজড লার্নিং label ছাড়াই শুধু data-র গঠন থেকে structure/দল খুঁজে বের করা
k-means Clustering কে-মিনস ক্লাস্টারিং label-বিহীন data-কে \(k\) দলে ভাগ করা, প্রতি দলের একটা প্রতিনিধি বেছে
Representative (Centroid) রিপ্রেজেন্টেটিভ (সেন্ট্রয়েড) প্রতি cluster-এর প্রতিনিধি \(z_j\) — সবসময় সেই দলের গড় (তাই k-means)
Clustering Objective ক্লাস্টারিং অবজেক্টিভ \(J^{clust} = \frac1N\sum_i\|x^{(i)} - z_{c_i}\|^2\) — প্রতিনিধি থেকে দূরত্ব-বর্গের গড়
Lloyd's Algorithm লয়েডস অ্যালগরিদম পালা করে assign (নিকটতমে বরাদ্দ) ও update (গড়ে সরানো) — প্রতি ধাপে \(J^{clust}\) কমে
Local Minimum লোকাল মিনিমাম k-means সবসময় সেরা (global) নয়; খারাপ random init-এ খারাপ জায়গায় আটকায়
Graph গ্রাফ node (বিন্দু) আর edge (সংযোগ) — বন্ধুত্ব-network, রাস্তা, web-link সব এতে ধরা
Adjacency Matrix অ্যাডজেসেন্সি ম্যাট্রিক্স \(A_{ij} = 1\) যদি node \(i\)\(j\)-এ edge থাকে; undirected হলে symmetric
Degree Matrix ডিগ্রি ম্যাট্রিক্স Diagonal matrix \(D\), \(D_{ii} =\) node \(i\)-র degree (কয়টা edge লাগানো)
Graph Laplacian গ্রাফ ল্যাপ্লাসিয়ান \(L = D - A\) — row sum \(0\), PSD; \(f^TLf = \sum_{(i,j)}(f_i-f_j)^2\) "পার্থক্যের শক্তি"
Connected Component কানেক্টেড কম্পোনেন্ট graph-এর এক-একটা বিচ্ছিন্ন টুকরো; \(L\)-এর zero eigenvalue-র সংখ্যা = component-সংখ্যা
Spectral Clustering স্পেকট্রাল ক্লাস্টারিং Laplacian-এর eigenvector দিয়ে ক্লাস্টারিং — নন-গোলাকার দলও খুঁজতে পারে
PageRank পেজর‍্যাঙ্ক web-কে Markov matrix ভেবে power iteration-এ গুরুত্ব-eigenvector: \(Gr = r\) — Google-এর জন্ম
Power Iteration পাওয়ার ইটারেশন বারবার \(r \leftarrow Gr\) — dominant eigenvector-এ পৌঁছানোর algorithm, গোটা matrix invert না করেই
Google Matrix গুগল ম্যাট্রিক্স \(G = \alpha M + \frac{1-\alpha}{N}\mathbf{1}\mathbf{1}^T\) — link matrix + teleport; সব entry \(>0\)

Chapter 7.5 — Markov Matrices

English Term বাংলা এক লাইনে অর্থ
Markov Matrix (Stochastic) মার্কভ ম্যাট্রিক্স (স্টোক্যাস্টিক) entry \(\geq 0\) আর প্রতি column-এর যোগফল \(1\); \(P_{ij} =\) অবস্থা \(j \to i\)-এর সম্ভাবনা
Probability Vector প্রবাবিলিটি ভেক্টর entry \(\geq 0\), যোগফল \(1\) — বর্তমান অবস্থার সম্ভাবনা-বণ্টন
Markov Chain মার্কভ চেইন বিবর্তন \(p_{k+1} = Pp_k\) — "আজকের অবস্থা → কালকের সম্ভাবনা" নিয়মের শৃঙ্খল
Steady State (Stationary) স্টেডি স্টেট (স্টেশনারি) যে বণ্টন আর বদলায় না: \(P\pi = \pi\) — eigenvalue-\(1\) eigenvector, "দীর্ঘকালীন জলবায়ু"
Perron-Frobenius পেরন-ফ্রোবেনিয়াস সব entry ধনাত্মক matrix-এ একটাই ধনাত্মক dominant eigenvector নিশ্চিত করে (steady state-এর গ্যারান্টি)
Second Eigenvalue \(\lambda_2\) সেকেন্ড আইগেনভ্যালু দ্বিতীয় বৃহত্তম \(\vert \lambda_2\vert\) — convergence-এর গতি ঠিক করে: \(\|p_k - \pi\| \approx \vert \lambda_2\vert ^k\)
Mixing (Mixing Time) মিক্সিং (মিক্সিং টাইম) প্রাথমিক অবস্থার স্মৃতি কত দ্রুত মরে; \(\vert \lambda_2\vert\) ছোট = দ্রুত mixing
Dynamic Equilibrium ডায়নামিক ইকুইলিব্রিয়াম steady state-এ অবস্থা বদলাতেই থাকে, শুধু বণ্টন স্থির — রেস্তোরাঁয় লোক ঢোকে-বেরোয়, সংখ্যা স্থির
Matrix Exponential ম্যাট্রিক্স এক্সপোনেনশিয়াল \(e^{At} = \sum_k \frac{(At)^k}{k!}\) — discrete power \(P^k\)-এর অবিচ্ছিন্ন যমজ
Continuous-time Dynamics কন্টিনিউয়াস-টাইম ডায়নামিক্স \(\dot{x} = Ax\)-এর সমাধান \(x(t) = e^{At}x_0\); সময় discrete না হয়ে মসৃণ প্রবাহ
Eigenvalue → Decay/Rotation আইগেনভ্যালু-নিয়ম \(A\)-র eigenvalue \(\lambda\) হলে \(e^{At}\)-র eigenvalue \(e^{\lambda t}\): Re → decay/grow, Im → rotation
Spiral স্পাইরাল complex eigenvalue \(a \pm bi\): বাস্তব অংশ সংকোচন + কাল্পনিক অংশ ঘূর্ণন = origin-মুখী কুণ্ডলী
Dangling Node / Spider Trap ড্যাংলিং নোড / স্পাইডার ট্র্যাপ outgoing link-হীন বা বেরোনো-অসম্ভব node — teleport term ছাড়া PageRank বিকৃত করে

Part VIII — Computational Linear Algebra

Chapter 8.1 — Floating Point ও Conditioning

English Term বাংলা এক লাইনে অর্থ
Floating Point ফ্লোটিং পয়েন্ট কম্পিউটারের ভাসমান-দশমিক সংখ্যা-ব্যবস্থা: \(\pm(1.b_1\ldots b_{52})_2 \times 2^e\) — সসীম ঘরে বিশাল range
IEEE 754 Double Precision ডাবল প্রিসিশন ৬৪-bit standard (Python-এর float): ১ sign + ১১ exponent + ৫২ mantissa bit
Mantissa (Significand) ম্যান্টিসা সংখ্যার "অঙ্কগুলো" binary-তে — ৫২ bit, সামনের \(1.\) ফ্রি
Machine Epsilon মেশিন এপসাইলন \(\varepsilon_{\text{mach}} = 2^{-52} \approx 2.2\times10^{-16}\)\(1\)-এর পরের representable সংখ্যার দূরত্ব; ১৬-digit সততা
Rounding Error রাউন্ডিং এরর প্রতিটা operation-এ \(\text{fl}(x) = x(1+\delta)\), \(\vert \delta\vert \le \tfrac12\varepsilon_{\text{mach}}\) — কাছের দাগে গোল করার অনিবার্য ভুল
Condition Number কন্ডিশন নাম্বার \(\kappa(A) = \sigma_1/\sigma_n \ge 1\)সমস্যা নিজে কতটা স্পর্শকাতর: input-এর ছোট নাড়া output-এ কত বড় নাড়া আনে
Conditioning কন্ডিশনিং সমস্যার অন্তর্নিহিত রোগ — ভালো (well) বনাম খারাপ (ill) conditioned; algorithm বদলে সারে না
Catastrophic Cancellation ক্যাটাস্ট্রফিক ক্যানসেলেশন প্রায়-সমান দুই সংখ্যার বিয়োগে সামনের digit কেটে গিয়ে আপেক্ষিক ভুল \(10^{-16}\) থেকে \(\sim1\)-এ লাফ
Stability স্ট্যাবিলিটি algorithm-এর সততা — "algorithm-এর দোষ", conditioning-এর ("সমস্যার দোষ") থেকে আলাদা
Backward Stability ব্যাকওয়ার্ড স্টেবিলিটি computed উত্তর = একটু-নাড়ানো প্রশ্নের নিখুঁত উত্তর; তখন rel. error \(\lesssim \kappa(A)\varepsilon_{\text{mach}}\)
Overflow / Underflow ওভারফ্লো / আন্ডারফ্লো সংখ্যা range-এর বাইরে (\(\infty\)/NaN) বা এত ছোট যে \(0\) হয়ে যায় — softmax-এ \(e^{1000}\), log-এ \(\log 0\)

Chapter 8.2 — Ax=b বাস্তবে

English Term বাংলা এক লাইনে অর্থ
Factorization ফ্যাক্টরাইজেশন matrix-কে একবার সহজ টুকরোয় ভাঙা ("চাবি বানানো"), তারপর বহু \(b\)-তে সস্তায় reuse
LU Decomposition এলইউ ডিকম্পোজিশন \(PA = LU\) — Gaussian elimination-এর ডায়েরি; general square, খরচ \(\sim\frac23 n^3\)
Cholesky Decomposition কোলেস্কি ডিকম্পোজিশন \(A = LL^T\) — শুধু SPD matrix-এ, LU-এর অর্ধেক খরচ (\(\sim\frac13 n^3\)); ভেঙে পড়াই দ্রুততম SPD-পরীক্ষা
QR Decomposition কিউআর ডিকম্পোজিশন \(A = QR\) (\(Q\) orthonormal, \(R\) upper triangular) — least squares-এর নিরাপদ পথ, খরচ \(\sim 2mn^2\)
Permutation Matrix পারমিউটেশন ম্যাট্রিক্স \(P\) — শুধু row অদল-বদল করে; pivoting-এর হিসাব রাখে (\(PA = LU\)-তে)
Partial Pivoting পারশিয়াল পিভটিং প্রতি ধাপে column-এর সবচেয়ে বড় সংখ্যাকে pivot বানানো — stability, আর কখনো অস্তিত্বের জন্যও লাগে
Forward Substitution ফরওয়ার্ড সাবস্টিটিউশন Lower triangular \(Lc = b\) ওপর থেকে নিচে সমাধান — খরচ মাত্র \(\sim n^2\)
Back Substitution ব্যাক সাবস্টিটিউশন Upper triangular \(Ux = c\) নিচ থেকে ওপরে সমাধান — খরচ মাত্র \(\sim n^2\)
Complexity কমপ্লেক্সিটি বৃদ্ধির হার, ধ্রুবক নয়: \(O(n^3)\) মানে \(n\) দ্বিগুণ হলে খরচ আট গুণ
FLOP ফ্লপ floating point operation-এর গোনা — algorithm-এর খরচের একক
Sparse Matrix স্পার্স ম্যাট্রিক্স বেশিরভাগ ঘর শূন্য — খরচ nonzero সংখ্যা ও কাঠামোর ওপর নির্ভর, \(n\)-এর নয়
Fill-in ফিল-ইন factorization-এ আগের শূন্য ঘরগুলো nonzero হয়ে ওঠা — ভালো ordering দিয়ে কমানো যায়
Iterative Method (CG) ইটারেটিভ মেথড \(A\) factor না করে বারবার matrix-vector গুণে সমাধান; SPD-তে Conjugate Gradient — বিশাল sparse-এ একমাত্র উপায়

Chapter 8.3 — Eigenvalue Algorithms

English Term বাংলা এক লাইনে অর্থ
Power Method পাওয়ার মেথড \(x_{k+1} = Ax_k/\|Ax_k\|\) — বারবার গুণ + normalize → dominant eigenvector (PageRank-এর প্রাণ)
Dominant Eigenvalue ডমিন্যান্ট আইগেনভ্যালু সবচেয়ে বড় মানের \(\lambda_1\) (\(\vert \lambda_1\vert > \vert \lambda_2\vert\)) — power method যেটার eigenvector ধরে
Convergence Rate কনভার্জেন্স রেট power method-এর গতি \(\propto \vert \lambda_2/\lambda_1\vert\) — eigenvalue-দের gap বড় = দ্রুত, ছোট = স্থবির
Rayleigh Quotient রেইলি কোশেন্ট \(R(x) = \frac{x^TAx}{x^Tx}\) — eigenvalue-র সেরা অনুমান; symmetric-এ ভুল \(O(\epsilon^2)\), দ্বিগুণ নির্ভুল
Inverse Iteration ইনভার্স ইটারেশন \(A^{-1}\)-এ power method → সবচেয়ে ছোট eigenvalue (matrix উল্টাও — factor করে, invert নয়)
Shifted Inverse Iteration শিফটেড ইনভার্স ইটারেশন \((A-\mu I)^{-1}\)-এ power method → \(\mu\)-এর নিকটতম eigenvalue; ভালো shift = কৃত্রিম বিশাল gap = টার্বো
Shift শিফট \(\mu\) — target eigenvalue-র কাছাকাছি আন্দাজ; \(\lambda_i - \mu\) ছোট করে convergence দ্রুত করে
QR Algorithm কিউআর অ্যালগরিদম \(A_k = Q_kR_k \to A_{k+1} = R_kQ_k\) বারবার — matrix triangular হয়, diagonal-এ সব eigenvalue
Similarity Transformation সিমিলারিটি ট্রান্সফরমেশন \(A_{k+1} = Q_k^{-1}A_kQ_k\) — basis ঘোরায়, eigenvalue অপরিবর্তিত রাখে (QR algorithm-এর ভিত্তি)
Wilkinson's Shock উইলকিনসনের ধাক্কা polynomial-এর মূল coefficient-এর প্রতি ভয়ংকর সংবেদনশীল — তাই \(\det(A-\lambda I)=0\)-এর মূল খোঁজা নিষিদ্ধ
Abel–Ruffini Theorem আবেল–রুফিনি থিওরেম degree \(\ge 5\) polynomial-এর মূল বের করার সাধারণ সূত্র নেই — তাই eigenvalue algorithm অবশ্যই iterative
Real Schur Form রিয়েল শুর ফর্ম non-symmetric matrix-এ QR-এর ফল: quasi-triangular — \(2\times2\) block-এ complex conjugate eigenvalue জোড়া

Chapter 8.4 — Randomized Methods

English Term বাংলা এক লাইনে অর্থ
Sketching স্কেচিং বিশাল matrix-কে random matrix দিয়ে গুণ করে ছোট করা, তবু জ্যামিতি বজায় (exit poll-এর মতো নমুনা)
Random Projection র‍্যান্ডম প্রজেকশন \(Y = A\Omega\)\(A\)-কে \(k\)টা "random প্রশ্ন" করে column space-এর নমুনা তোলা
Randomized SVD র‍্যান্ডমাইজড এসভিডি চার ধাপ (Halko–Martinsson–Tropp): sketch → orthonormalize (\(QR\)) → compress (\(B=Q^TA\)) → tiny SVD
Low-Rank Structure লো-র‍্যাঙ্ক কাঠামো matrix-এর আসল তথ্য কয়েকটা দিকে জমা, বাকিটা noise — randomized SVD-র সাফল্যের পূর্বশর্ত
Johnson–Lindenstrauss Lemma জনসন–লিন্ডেনস্ট্রাস লেমা random projection দূরত্ব \((1\pm\epsilon)\)-এ রক্ষা করে; target মাত্রা \(k = O(\epsilon^{-2}\log N)\)\(n\)-নিরপেক্ষ
Oversampling ওভারস্যাম্পলিং \(k\)-এর বদলে \(k+p\) column (\(p\approx5\)\(10\)) — প্রায়-বিনামূল্যের বীমা, নির্ভুলতা নাটকীয়ভাবে বাড়ায়
Power Iteration (\(q\)) পাওয়ার ইটারেশন \(Y = (AA^T)^qA\Omega\)\(\sigma_i \to \sigma_i^{2q+1}\), singular value ধীরে কমলে sketch তীক্ষ্ণ করে
Eckart–Young (bound) একার্ট–ইয়াং সেরা rank-\(k\) approximation-এর ভুল \(\sigma_{k+1}\) — randomized SVD এর খুব কাছে (near-optimal)
Singular Value Decay সিঙ্গুলার ভ্যালু ডিকে singular value কত দ্রুত পড়ে — দ্রুত পতন = randomized SVD-র স্বর্গ, ধীর পতন = সাবধান
Concentration of Measure কনসেনট্রেশন অফ মেজার high dimension-এ random বস্তু প্রায় নিশ্চিতভাবে "সাধারণ" আচরণ করে — কেন randomness এখানে বন্ধু
Random Features র‍্যান্ডম ফিচারস বিশাল kernel matrix না বানিয়ে random projection দিয়ে তার প্রায়-প্রতিরূপ (SVM, GP বড় data-তে)
Streaming / One-pass স্ট্রিমিং data একবারই দেখা যায় এমন ক্ষেত্রে sketching দিয়ে চলতি-চলতি summary — full matrix memory-তে না রেখেই

Part IX — PhD-Level Theory

Chapter 9.1 — Fields ও Abstract Vector Spaces

English Term বাংলা এক লাইনে অর্থ
Field ফিল্ড এমন সংখ্যা-জগৎ যেখানে যোগ, বিয়োগ, গুণ ও (শূন্য ছাড়া) ভাগ চারটাই নির্বিঘ্নে চলে — যেমন \(\mathbb{Q}, \mathbb{R}, \mathbb{C}\)
\(\mathbb{F}_2\) (GF(2)) এফ-টু (গ্যালোয়া ফিল্ড) সবচেয়ে ছোট field \(\{0,1\}\): যোগ = XOR, গুণ = AND, আর \(1+1=0\)
Algebraically Closed অ্যালজেব্রেয়িক্যালি ক্লোজড যে field-এ প্রতিটা nonconstant polynomial-এর root আছে — \(\mathbb{C}\) এমন, \(\mathbb{R}\) না
Fundamental Theorem of Algebra ফান্ডামেন্টাল থিওরেম অভ অ্যালজেব্রা complex coefficient-এর প্রতিটা polynomial-এর \(\mathbb{C}\)-তে অন্তত একটা root আছে
Abstract Vector Space বিমূর্ত ভেক্টর স্পেস field \(F\)-এর ওপর ৮টা axiom + closure মানা যেকোনো সেট — vector-এর চেহারা লাগে না, শুধু আচরণ
Vector Space Axioms ভেক্টর স্পেস অ্যাক্সিওম commutativity, associativity, zero, inverse, \(1v=v\), distributivity — মোট ৮টা নিয়ম
Closure ক্লোজার \(u+v\) আর \(cv\) দুটোই আবার \(V\)-এর ভেতরেই থাকতে হবে — বেরিয়ে গেলে খেলা শেষ
Polynomial Space \(P_n(F)\) পলিনোমিয়াল স্পেস degree সর্বোচ্চ \(n\)-এর polynomial-দের vector space; basis \(\{1, x, \dots, x^n\}\)
Function Space ফাংশন স্পেস সব function-এর সেট (pointwise যোগ ও scalar গুণ) — curve-রাও vector!
Infinite-Dimensional ইনফিনিট-ডাইমেনশনাল যে space-কে কোনো finite set span করতে পারে না, যেমন \(P(F)\) (সব polynomial)
Subspace সাবস্পেস \(V\)-এর এমন উপসেট যা নিজেই vector space: \(0 \in U\) আর যোগ/scalar গুণে বন্ধ
Bitwise XOR বিটওয়াইজ এক্সঅর \(\mathbb{F}_2^n\)-এ vector যোগ: bit-ধরে exclusive-or, আর \(v + v = 0\)

Chapter 9.2 — Jordan Canonical Form

English Term বাংলা এক লাইনে অর্থ
Jordan Canonical Form (JCF) জর্ডান ক্যানোনিকাল ফর্ম \(\mathbb{C}\)-এর ওপর যেকোনো matrix-এর "প্রায়-diagonal" রূপ: \(P^{-1}AP = J\)
Jordan Block \(J_m(\lambda)\) জর্ডান ব্লক diagonal-এ \(\lambda\), superdiagonal-এ সব \(1\) — একটা chain-এর matrix-চেহারা
Generalized Eigenvector জেনারালাইজড আইগেনভেক্টর যে \(v \neq 0\)-এর জন্য কোনো \(k\)-তে \((A-\lambda I)^k v = 0\) — eigenvector-এর ঘাটতি পূরণ করে
Jordan Chain জর্ডান চেইন \(v_m \mapsto \cdots \mapsto v_1 \mapsto 0\) মই: \(N = A-\lambda I\) প্রতি ধাপে এক নিচে নামায়
Nilpotent নিলপোটেন্ট যে matrix-এর জন্য \(N^m = 0\) — একমাত্র eigenvalue \(0\), Jordan তত্ত্বের ইঞ্জিন
Index of Nilpotency নিলপোটেন্সির ইনডেক্স ক্ষুদ্রতম \(m\) যাতে \(N^m = 0\) — সবচেয়ে লম্বা chain-এর দৈর্ঘ্য
Superdiagonal সুপারডায়াগোনাল diagonal-এর ঠিক ওপরের কোণাকুণি লাইন — Jordan block-এ যেখানে \(1\)-রা বসে
Null Space Staircase নাল স্পেস সিঁড়ি \(\dim N((A-\lambda I)^k)\)-এর ক্রমবর্ধমান তালিকা — matrix-এর কঙ্কালের এক্স-রে
Generalized Eigenspace \(G_\lambda\) জেনারালাইজড আইগেনস্পেস সব generalized eigenvector-এর space; \(\dim G_\lambda =\) algebraic multiplicity
Transient Growth ট্রানজিয়েন্ট গ্রোথ \(\vert \lambda\vert <1\) হয়েও norm আগে ফুলে তারপর নামা — \(J^k\)-এর \(k\lambda^{k-1}\) ফ্যাক্টরের দান
Critically Damped Oscillator ক্রিটিক্যালি ড্যাম্পড অসিলেটর দোলা না দিয়ে দ্রুততম থামা system — matrix defective, সমাধানে \(te^{\lambda t}\)
Matrix Exponential \(e^{Jt}\) ম্যাট্রিক্স এক্সপোনেনশিয়াল \(u'=Ju\)-এর সমাধান-যন্ত্র; Jordan block-এ জন্ম নেয় \(te^{\lambda t}\) term

Chapter 9.3 — Matrix Norms ও Perturbation

English Term বাংলা এক লাইনে অর্থ
Matrix Norm ম্যাট্রিক্স নর্ম গোটা matrix-এর "সাইজ" মাপার ফিতা — positivity, scaling, triangle inequality মানে
Frobenius Norm ফ্রোবেনিয়াস নর্ম সব entry-র বর্গযোগফলের মূল \(= \sqrt{\sum\sigma_i^2}\) — matrix-এর মিলিত শক্তি
Operator (Induced) Norm অপারেটর নর্ম \(\|A\| = \max_{v\neq0}\frac{\|Av\|}{\|v\|}\) — সর্বোচ্চ stretch factor
Spectral Norm \(\|A\|_2\) স্পেকট্রাল নর্ম 2-norm থেকে আরোপিত operator norm \(= \sigma_1\) (বৃহত্তম singular value)
Submultiplicativity সাবমাল্টিপ্লিকেটিভিটি \(\|AB\| \le \|A\|\|B\|\) — দুই ধাপে stretch, মুনাফা গুণ হয়
Condition Number \(\kappa(A)\) কন্ডিশন নাম্বার \(\|A\|\|A^{-1}\| = \sigma_1/\sigma_n\)\(Ax=b\)-তে ভুল কত গুণ ফুলে ওঠে তার amplifier
Spectral Radius \(\rho(A)\) স্পেকট্রাল রেডিয়াস \(\max_i\vert \lambda_i\vert\) — eigenvalue-দের সর্বোচ্চ absolute value; \(\rho \le \|A\|\) কিন্তু নিজে norm না
Weyl's Inequality ভাইলের অসমতা symmetric matrix-এর eigenvalue-সরণ \(\le \|E\|_2\) — noise-এর মুখে পাথরের মতো stable
Courant–Fischer Min-Max কুরান্ট-ফিশার মিন-ম্যাক্স \(\lambda_k = \max_{\dim S=k}\min_{v\in S}v^TAv\) — মাঝের eigenvalue ধরার subspace-ফাঁদ
Bauer–Fike Theorem বাউয়ার-ফিকে উপপাদ্য diagonalizable \(A\)-তে eigenvalue-সরণ \(\le \kappa(P)\|E\|_2\) — দায় eigenvector matrix-এর ওপর
Lipschitz Constant লিপশিৎস ধ্রুবক linear layer-এর operator norm — input-এ \(\delta\) নড়লে output নড়ে বড়জোর \(\|W\|_2\delta\)
Ill-Conditioned ইল-কন্ডিশন্ড বড় \(\kappa\)-ওয়ালা system — সমীকরণগুলো "প্রায় সমান্তরাল", ভুল লাফিয়ে বাড়ে

Chapter 9.4 — Matrix Calculus

English Term বাংলা এক লাইনে অর্থ
Gradient \(\nabla f\) গ্রেডিয়েন্ট \(f\)-এর best linear approximation-এর coefficient vector; সবচেয়ে খাড়া ওঠার দিক
Directional Derivative ডিরেকশনাল ডেরিভেটিভ কোনো unit দিক \(u\)-তে ঢাল \(= \nabla f^T u\) — Cauchy–Schwarz-এ max হয় \(\nabla f\)-দিকে
Jacobian জ্যাকোবিয়ান vector→vector map-এর local matrix: \(J_{ij} = \partial F_i/\partial x_j\)
Hessian হেসিয়ান gradient-এর Jacobian, \(H_{ij} = \partial^2 f/\partial x_i\partial x_j\) — সবসময় symmetric
Chain Rule চেইন রুল \(J_{f\circ g} = J_f\,J_g\) — "composition = গুণ"-এর ক্যালকুলাস সংস্করণ
Layout Convention লেআউট কনভেনশন gradient column না row লেখার নিয়ম; এই বইয়ে gradient-এর shape = variable-এর shape
Normal Equations নরমাল ইকুয়েশন \(A^TAx = A^Tb\) — least squares-এর gradient শূন্য বসানোর ফল
Backpropagation ব্যাকপ্রোপাগেশন reverse-mode chain rule — error পেছনে transpose-এর সিঁড়ি বেয়ে নামে
Vector-Jacobian Product ভেক্টর-জ্যাকোবিয়ান প্রোডাক্ট \(J^Tv\) — পুরো Jacobian না বানিয়ে শুধু এটাই হিসাব করা reverse-mode-এর মূলমন্ত্র
Autograd অটোগ্র্যাড PyTorch/JAX-এর reverse-mode chain rule-এর স্বয়ংক্রিয় রূপ; loss.backward()
Outer Product আউটার প্রোডাক্ট \(uv^T\) — backprop-এ weight-gradient "error × input"-এর ছন্দে জন্মায়
Central Difference সেন্ট্রাল ডিফারেন্স \(\frac{f(x+he_i)-f(x-he_i)}{2h}\) — analytic gradient যাচাইয়ের \(O(h^2)\) অস্ত্র

Chapter 9.5 — Random Matrix Theory

English Term বাংলা এক লাইনে অর্থ
Random Matrix Theory (RMT) র‍্যান্ডম ম্যাট্রিক্স থিওরি এলোমেলো entry-ওয়ালা বিশাল matrix-এর eigenvalue-ভিড়ের গণিত — CLT-র matrix-ভাই
Wigner Matrix উইগনার ম্যাট্রিক্স symmetric, iid (mean \(0\), var \(1\)) entry, \(1/\sqrt{n}\)-scaled random matrix
Semicircle Law সেমিসার্কেল ল Wigner eigenvalue-histogram \(\to \rho(x)=\frac{1}{2\pi}\sqrt{4-x^2}\), \([-2,2]\)-এ অর্ধবৃত্ত
Empirical Spectral Distribution এমপিরিক্যাল স্পেকট্রাল ডিস্ট্রিবিউশন একটা matrix-এর eigenvalue-দের histogram-এর আনুষ্ঠানিক নাম
Universality ইউনিভার্সালিটি entry-র খুঁটিনাটি (Gaussian/coin/uniform) নিরপেক্ষে একই limiting আকৃতি
Catalan Number \(C_k\) কাতালান নাম্বার \(\frac{1}{k+1}\binom{2k}{k}\) — semicircle-এর even moment, moment-method-এর tree-গোনা
Moment Method মোমেন্ট মেথড \(\frac{1}{n}\operatorname{tr}(W^k)\) = histogram-এর \(k\)-তম moment — trace-সেতু দিয়ে প্রমাণ
Marchenko–Pastur Law মার্চেঙ্কো–পাস্তুর ল pure-noise sample covariance-এর eigenvalue-density; edge \(\lambda_\pm=(1\pm\sqrt\gamma)^2\)
Aspect Ratio \(\gamma\) অ্যাসপেক্ট রেশিও \(p/n\) (feature ÷ sample) — RMT-র সবচেয়ে গুরুত্বপূর্ণ নব
Spiked Model স্পাইকড মডেল \(\Sigma = I + \theta\,uu^T\) — noise-এর ভেতরে একটা আসল সংকেত-দিক লুকানো
BBP Transition বিবিপি ট্রানজিশন \(\theta > \sqrt\gamma\) হলে spike bulk-এর বাইরে (ধরা যায়), নয়তো চিরতরে অদৃশ্য
Phase Transition ফেজ ট্রানজিশন \(\theta\)-নব \(\sqrt\gamma\) পার হওয়ামাত্র আচরণের আকস্মিক বদল — বরফ গলার মতো

Chapter 9.6 — Tensor Decompositions

English Term বাংলা এক লাইনে অর্থ
Tensor টেনসর order-\(N\) multi-way array \(t_{i_1\dots i_N}\) — matrix-এর বহু-index সাধারণীকরণ (ঘনক)
Order অর্ডার tensor-এর index/mode-সংখ্যা: scalar \(0\), vector \(1\), matrix \(2\), ঘনক \(3\)
Mode মোড tensor-এর প্রতিটা দিক/index — 3-way tensor-এর mode-1/2/3
Fiber ফাইবার একটা index ছাড়া বাকি সব স্থির রেখে পাওয়া vector — column/row-এর সাধারণীকরণ
Slice স্লাইস ঠিক একটা index স্থির রেখে পাওয়া matrix (যেমন frontal slice \(T_{::k}\))
Rank-1 Tensor র‍্যাঙ্ক-ওয়ান টেনসর \(a\circ b\circ c\), \(t_{ijk}=a_ib_jc_k\) — outer product, প্রতি slice একই প্যাটার্ন
CP Decomposition (PARAFAC) সিপি ডিকম্পোজিশন \(\mathcal{T}=\sum_r\lambda_r\,a_r\circ b_r\circ c_r\) — SVD-র সরাসরি বড় ভাই
CP Rank সিপি র‍্যাঙ্ক সবচেয়ে ছোট \(R\) যাতে CP সমতা মেলে — NP-hard, field-নির্ভর, mode-আকার ছাড়াতে পারে
Essential Uniqueness এসেনশিয়াল ইউনিকনেস CP প্রায়ই permutation/scaling বাদে একটাই — orthogonality না চাপিয়েই (Kruskal)
Border Rank বর্ডার র‍্যাঙ্ক rank-\(R\) set বন্ধ না বলে best rank-\(R\) approximation নাও থাকতে পারে (Eckart–Young ভাঙে)
Tucker Decomposition টাকার ডিকম্পোজিশন core tensor \(\mathcal{G}\) + প্রতি mode-এ factor matrix — সবসময় থাকে, unique নয়
HOSVD এইচ-ও-এস-ভি-ডি প্রতি mode-এর unfolding-এর SVD দিয়ে \(U_n\) — Tucker-এর SVD-অনুরূপ, quasi-optimal
ALS অল্টারনেটিং লিস্ট স্কোয়ার্স দুই factor স্থির রেখে তৃতীয়টা least squares-এ solve — nonconvex, rest