Part IX — Glossary (PhD-Level Theory)
Part IX-এর ছয় chapter-এ (9.1–9.6) প্রথম দেখা সব গুরুত্বপূর্ণ term এক টেবিলে — chapter অনুযায়ী সাজানো।
Chapter 9.1 — Fields ও Abstract Vector Spaces
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Field |
ফিল্ড |
এমন সংখ্যা-জগৎ যেখানে যোগ, বিয়োগ, গুণ ও (শূন্য ছাড়া) ভাগ চারটাই নির্বিঘ্নে চলে — যেমন \(\mathbb{Q}, \mathbb{R}, \mathbb{C}\) |
| \(\mathbb{F}_2\) (GF(2)) |
এফ-টু (গ্যালোয়া ফিল্ড) |
সবচেয়ে ছোট field \(\{0,1\}\): যোগ = XOR, গুণ = AND, আর \(1+1=0\) |
| Algebraically Closed |
অ্যালজেব্রেয়িক্যালি ক্লোজড |
যে field-এ প্রতিটা nonconstant polynomial-এর root আছে — \(\mathbb{C}\) এমন, \(\mathbb{R}\) না |
| Fundamental Theorem of Algebra |
ফান্ডামেন্টাল থিওরেম অভ অ্যালজেব্রা |
complex coefficient-এর প্রতিটা polynomial-এর \(\mathbb{C}\)-তে অন্তত একটা root আছে |
| Abstract Vector Space |
বিমূর্ত ভেক্টর স্পেস |
field \(F\)-এর ওপর ৮টা axiom + closure মানা যেকোনো সেট — vector-এর চেহারা লাগে না, শুধু আচরণ |
| Vector Space Axioms |
ভেক্টর স্পেস অ্যাক্সিওম |
commutativity, associativity, zero, inverse, \(1v=v\), distributivity — মোট ৮টা নিয়ম |
| Closure |
ক্লোজার |
\(u+v\) আর \(cv\) দুটোই আবার \(V\)-এর ভেতরেই থাকতে হবে — বেরিয়ে গেলে খেলা শেষ |
| Polynomial Space \(P_n(F)\) |
পলিনোমিয়াল স্পেস |
degree সর্বোচ্চ \(n\)-এর polynomial-দের vector space; basis \(\{1, x, \dots, x^n\}\) |
| Function Space |
ফাংশন স্পেস |
সব function-এর সেট (pointwise যোগ ও scalar গুণ) — curve-রাও vector! |
| Infinite-Dimensional |
ইনফিনিট-ডাইমেনশনাল |
যে space-কে কোনো finite set span করতে পারে না, যেমন \(P(F)\) (সব polynomial) |
| Subspace |
সাবস্পেস |
\(V\)-এর এমন উপসেট যা নিজেই vector space: \(0 \in U\) আর যোগ/scalar গুণে বন্ধ |
| Bitwise XOR |
বিটওয়াইজ এক্সঅর |
\(\mathbb{F}_2^n\)-এ vector যোগ: bit-ধরে exclusive-or, আর \(v + v = 0\) |
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Jordan Canonical Form (JCF) |
জর্ডান ক্যানোনিকাল ফর্ম |
\(\mathbb{C}\)-এর ওপর যেকোনো matrix-এর "প্রায়-diagonal" রূপ: \(P^{-1}AP = J\) |
| Jordan Block \(J_m(\lambda)\) |
জর্ডান ব্লক |
diagonal-এ \(\lambda\), superdiagonal-এ সব \(1\) — একটা chain-এর matrix-চেহারা |
| Generalized Eigenvector |
জেনারালাইজড আইগেনভেক্টর |
যে \(v \neq 0\)-এর জন্য কোনো \(k\)-তে \((A-\lambda I)^k v = 0\) — eigenvector-এর ঘাটতি পূরণ করে |
| Jordan Chain |
জর্ডান চেইন |
\(v_m \mapsto \cdots \mapsto v_1 \mapsto 0\) মই: \(N = A-\lambda I\) প্রতি ধাপে এক নিচে নামায় |
| Nilpotent |
নিলপোটেন্ট |
যে matrix-এর জন্য \(N^m = 0\) — একমাত্র eigenvalue \(0\), Jordan তত্ত্বের ইঞ্জিন |
| Index of Nilpotency |
নিলপোটেন্সির ইনডেক্স |
ক্ষুদ্রতম \(m\) যাতে \(N^m = 0\) — সবচেয়ে লম্বা chain-এর দৈর্ঘ্য |
| Superdiagonal |
সুপারডায়াগোনাল |
diagonal-এর ঠিক ওপরের কোণাকুণি লাইন — Jordan block-এ যেখানে \(1\)-রা বসে |
| Null Space Staircase |
নাল স্পেস সিঁড়ি |
\(\dim N((A-\lambda I)^k)\)-এর ক্রমবর্ধমান তালিকা — matrix-এর কঙ্কালের এক্স-রে |
| Generalized Eigenspace \(G_\lambda\) |
জেনারালাইজড আইগেনস্পেস |
সব generalized eigenvector-এর space; \(\dim G_\lambda =\) algebraic multiplicity |
| Transient Growth |
ট্রানজিয়েন্ট গ্রোথ |
\(\vert \lambda\vert <1\) হয়েও norm আগে ফুলে তারপর নামা — \(J^k\)-এর \(k\lambda^{k-1}\) ফ্যাক্টরের দান |
| Critically Damped Oscillator |
ক্রিটিক্যালি ড্যাম্পড অসিলেটর |
দোলা না দিয়ে দ্রুততম থামা system — matrix defective, সমাধানে \(te^{\lambda t}\) |
| Matrix Exponential \(e^{Jt}\) |
ম্যাট্রিক্স এক্সপোনেনশিয়াল |
\(u'=Ju\)-এর সমাধান-যন্ত্র; Jordan block-এ জন্ম নেয় \(te^{\lambda t}\) term |
Chapter 9.3 — Matrix Norms ও Perturbation
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Matrix Norm |
ম্যাট্রিক্স নর্ম |
গোটা matrix-এর "সাইজ" মাপার ফিতা — positivity, scaling, triangle inequality মানে |
| Frobenius Norm |
ফ্রোবেনিয়াস নর্ম |
সব entry-র বর্গযোগফলের মূল \(= \sqrt{\sum\sigma_i^2}\) — matrix-এর মিলিত শক্তি |
| Operator (Induced) Norm |
অপারেটর নর্ম |
\(\|A\| = \max_{v\neq0}\frac{\|Av\|}{\|v\|}\) — সর্বোচ্চ stretch factor |
| Spectral Norm \(\|A\|_2\) |
স্পেকট্রাল নর্ম |
2-norm থেকে আরোপিত operator norm \(= \sigma_1\) (বৃহত্তম singular value) |
| Submultiplicativity |
সাবমাল্টিপ্লিকেটিভিটি |
\(\|AB\| \le \|A\|\|B\|\) — দুই ধাপে stretch, মুনাফা গুণ হয় |
| Condition Number \(\kappa(A)\) |
কন্ডিশন নাম্বার |
\(\|A\|\|A^{-1}\| = \sigma_1/\sigma_n\) — \(Ax=b\)-তে ভুল কত গুণ ফুলে ওঠে তার amplifier |
| Spectral Radius \(\rho(A)\) |
স্পেকট্রাল রেডিয়াস |
\(\max_i\vert \lambda_i\vert\) — eigenvalue-দের সর্বোচ্চ absolute value; \(\rho \le \|A\|\) কিন্তু নিজে norm না |
| Weyl's Inequality |
ভাইলের অসমতা |
symmetric matrix-এর eigenvalue-সরণ \(\le \|E\|_2\) — noise-এর মুখে পাথরের মতো stable |
| Courant–Fischer Min-Max |
কুরান্ট-ফিশার মিন-ম্যাক্স |
\(\lambda_k = \max_{\dim S=k}\min_{v\in S}v^TAv\) — মাঝের eigenvalue ধরার subspace-ফাঁদ |
| Bauer–Fike Theorem |
বাউয়ার-ফিকে উপপাদ্য |
diagonalizable \(A\)-তে eigenvalue-সরণ \(\le \kappa(P)\|E\|_2\) — দায় eigenvector matrix-এর ওপর |
| Lipschitz Constant |
লিপশিৎস ধ্রুবক |
linear layer-এর operator norm — input-এ \(\delta\) নড়লে output নড়ে বড়জোর \(\|W\|_2\delta\) |
| Ill-Conditioned |
ইল-কন্ডিশন্ড |
বড় \(\kappa\)-ওয়ালা system — সমীকরণগুলো "প্রায় সমান্তরাল", ভুল লাফিয়ে বাড়ে |
Chapter 9.4 — Matrix Calculus
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Gradient \(\nabla f\) |
গ্রেডিয়েন্ট |
\(f\)-এর best linear approximation-এর coefficient vector; সবচেয়ে খাড়া ওঠার দিক |
| Directional Derivative |
ডিরেকশনাল ডেরিভেটিভ |
কোনো unit দিক \(u\)-তে ঢাল \(= \nabla f^T u\) — Cauchy–Schwarz-এ max হয় \(\nabla f\)-দিকে |
| Jacobian |
জ্যাকোবিয়ান |
vector→vector map-এর local matrix: \(J_{ij} = \partial F_i/\partial x_j\) |
| Hessian |
হেসিয়ান |
gradient-এর Jacobian, \(H_{ij} = \partial^2 f/\partial x_i\partial x_j\) — সবসময় symmetric |
| Chain Rule |
চেইন রুল |
\(J_{f\circ g} = J_f\,J_g\) — "composition = গুণ"-এর ক্যালকুলাস সংস্করণ |
| Layout Convention |
লেআউট কনভেনশন |
gradient column না row লেখার নিয়ম; এই বইয়ে gradient-এর shape = variable-এর shape |
| Normal Equations |
নরমাল ইকুয়েশন |
\(A^TAx = A^Tb\) — least squares-এর gradient শূন্য বসানোর ফল |
| Backpropagation |
ব্যাকপ্রোপাগেশন |
reverse-mode chain rule — error পেছনে transpose-এর সিঁড়ি বেয়ে নামে |
| Vector-Jacobian Product |
ভেক্টর-জ্যাকোবিয়ান প্রোডাক্ট |
\(J^Tv\) — পুরো Jacobian না বানিয়ে শুধু এটাই হিসাব করা reverse-mode-এর মূলমন্ত্র |
| Autograd |
অটোগ্র্যাড |
PyTorch/JAX-এর reverse-mode chain rule-এর স্বয়ংক্রিয় রূপ; loss.backward() |
| Outer Product |
আউটার প্রোডাক্ট |
\(uv^T\) — backprop-এ weight-gradient "error × input"-এর ছন্দে জন্মায় |
| Central Difference |
সেন্ট্রাল ডিফারেন্স |
\(\frac{f(x+he_i)-f(x-he_i)}{2h}\) — analytic gradient যাচাইয়ের \(O(h^2)\) অস্ত্র |
Chapter 9.5 — Random Matrix Theory
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Random Matrix Theory (RMT) |
র্যান্ডম ম্যাট্রিক্স থিওরি |
এলোমেলো entry-ওয়ালা বিশাল matrix-এর eigenvalue-ভিড়ের গণিত — CLT-র matrix-ভাই |
| Wigner Matrix |
উইগনার ম্যাট্রিক্স |
symmetric, iid (mean \(0\), var \(1\)) entry, \(1/\sqrt{n}\)-scaled random matrix |
| Semicircle Law |
সেমিসার্কেল ল |
Wigner eigenvalue-histogram \(\to \rho(x)=\frac{1}{2\pi}\sqrt{4-x^2}\), \([-2,2]\)-এ অর্ধবৃত্ত |
| Empirical Spectral Distribution |
এমপিরিক্যাল স্পেকট্রাল ডিস্ট্রিবিউশন |
একটা matrix-এর eigenvalue-দের histogram-এর আনুষ্ঠানিক নাম |
| Universality |
ইউনিভার্সালিটি |
entry-র খুঁটিনাটি (Gaussian/coin/uniform) নিরপেক্ষে একই limiting আকৃতি |
| Catalan Number \(C_k\) |
কাতালান নাম্বার |
\(\frac{1}{k+1}\binom{2k}{k}\) — semicircle-এর even moment, moment-method-এর tree-গোনা |
| Moment Method |
মোমেন্ট মেথড |
\(\frac{1}{n}\operatorname{tr}(W^k)\) = histogram-এর \(k\)-তম moment — trace-সেতু দিয়ে প্রমাণ |
| Marchenko–Pastur Law |
মার্চেঙ্কো–পাস্তুর ল |
pure-noise sample covariance-এর eigenvalue-density; edge \(\lambda_\pm=(1\pm\sqrt\gamma)^2\) |
| Aspect Ratio \(\gamma\) |
অ্যাসপেক্ট রেশিও |
\(p/n\) (feature ÷ sample) — RMT-র সবচেয়ে গুরুত্বপূর্ণ নব |
| Spiked Model |
স্পাইকড মডেল |
\(\Sigma = I + \theta\,uu^T\) — noise-এর ভেতরে একটা আসল সংকেত-দিক লুকানো |
| BBP Transition |
বিবিপি ট্রানজিশন |
\(\theta > \sqrt\gamma\) হলে spike bulk-এর বাইরে (ধরা যায়), নয়তো চিরতরে অদৃশ্য |
| Phase Transition |
ফেজ ট্রানজিশন |
\(\theta\)-নব \(\sqrt\gamma\) পার হওয়ামাত্র আচরণের আকস্মিক বদল — বরফ গলার মতো |
Chapter 9.6 — Tensor Decompositions
| English Term |
বাংলা |
এক লাইনে অর্থ |
| Tensor |
টেনসর |
order-\(N\) multi-way array \(t_{i_1\dots i_N}\) — matrix-এর বহু-index সাধারণীকরণ (ঘনক) |
| Order |
অর্ডার |
tensor-এর index/mode-সংখ্যা: scalar \(0\), vector \(1\), matrix \(2\), ঘনক \(3\) |
| Mode |
মোড |
tensor-এর প্রতিটা দিক/index — 3-way tensor-এর mode-1/2/3 |
| Fiber |
ফাইবার |
একটা index ছাড়া বাকি সব স্থির রেখে পাওয়া vector — column/row-এর সাধারণীকরণ |
| Slice |
স্লাইস |
ঠিক একটা index স্থির রেখে পাওয়া matrix (যেমন frontal slice \(T_{::k}\)) |
| Rank-1 Tensor |
র্যাঙ্ক-ওয়ান টেনসর |
\(a\circ b\circ c\), \(t_{ijk}=a_ib_jc_k\) — outer product, প্রতি slice একই প্যাটার্ন |
| CP Decomposition (PARAFAC) |
সিপি ডিকম্পোজিশন |
\(\mathcal{T}=\sum_r\lambda_r\,a_r\circ b_r\circ c_r\) — SVD-র সরাসরি বড় ভাই |
| CP Rank |
সিপি র্যাঙ্ক |
সবচেয়ে ছোট \(R\) যাতে CP সমতা মেলে — NP-hard, field-নির্ভর, mode-আকার ছাড়াতে পারে |
| Essential Uniqueness |
এসেনশিয়াল ইউনিকনেস |
CP প্রায়ই permutation/scaling বাদে একটাই — orthogonality না চাপিয়েই (Kruskal) |
| Border Rank |
বর্ডার র্যাঙ্ক |
rank-\(R\) set বন্ধ না বলে best rank-\(R\) approximation নাও থাকতে পারে (Eckart–Young ভাঙে) |
| Tucker Decomposition |
টাকার ডিকম্পোজিশন |
core tensor \(\mathcal{G}\) + প্রতি mode-এ factor matrix — সবসময় থাকে, unique নয় |
| HOSVD |
এইচ-ও-এস-ভি-ডি |
প্রতি mode-এর unfolding-এর SVD দিয়ে \(U_n\) — Tucker-এর SVD-অনুরূপ, quasi-optimal |
| ALS |
অল্টারনেটিং লিস্ট স্কোয়ার্স |
দুই factor স্থির রেখে তৃতীয়টা least squares-এ solve — nonconvex, restart লাগে |