Probability and Random Processes for Electrical Engineers

wjdai

一本介绍电子工程方面的概率与随机过程的书：
内容如下：
1 Introduction to Probability 1
1.1 Review of Set Notation : : : : : : : : : : : : : : : : : : : : : : : 2
1.2 Probability Models : : : : : : : : : : : : : : : : : : : : : : : : : : 5
1.3 Axioms and Properties of Probability : : : : : : : : : : : : : : : 12
Consequences of the Axioms : : : : : : : : : : : : : : : : : : : 12
1.4 Independence : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16
Independence for More Than Two Events : : : : : : : : : : : : 16
1.5 Conditional Probability : : : : : : : : : : : : : : : : : : : : : : : 19
The Law of Total Probability and Bayes' Rule : : : : : : : : : 19
1.6 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 22
1.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 24
2 Discrete Random Variables 33
2.1 Probabilities Involving Random Variables : : : : : : : : : : : : : 33
Discrete Random Variables : : : : : : : : : : : : : : : : : : : : 36
Integer-Valued Random Variables : : : : : : : : : : : : : : : : 36
Pairs of Random Variables : : : : : : : : : : : : : : : : : : : : 38
Multiple Independent Random Variables : : : : : : : : : : : : 39
Probability Mass Functions : : : : : : : : : : : : : : : : : : : : 42
2.2 Expectation : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 44
Expectation of Functions of Random Variables, or the Law of
the Unconscious Statistician (LOTUS) : : : : : : : : : : : 47
?Derivation of LOTUS : : : : : : : : : : : : : : : : : : : : : : 47
Linearity of Expectation : : : : : : : : : : : : : : : : : : : : : 48
Moments : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 49
Probability Generating Functions : : : : : : : : : : : : : : : : 50
Expectations of Products of Functions of Independent Ran-
dom Variables : : : : : : : : : : : : : : : : : : : : : : : : 52
Binomial Random Variables and Combinations : : : : : : : : : 54
Poisson Approximation of Binomial Probabilities : : : : : : : 57
2.3 The Weak Law of Large Numbers : : : : : : : : : : : : : : : : : : 57
Uncorrelated Random Variables : : : : : : : : : : : : : : : : : 58
Markov's Inequality : : : : : : : : : : : : : : : : : : : : : : : : 60
Chebyshev's Inequality : : : : : : : : : : : : : : : : : : : : : : 60
Conditions for the Weak Law : : : : : : : : : : : : : : : : : : 61
2.4 Conditional Probability : : : : : : : : : : : : : : : : : : : : : : : 62
The Law of Total Probability : : : : : : : : : : : : : : : : : : 63
The Substitution Law : : : : : : : : : : : : : : : : : : : : : : : 66
2.5 Conditional Expectation : : : : : : : : : : : : : : : : : : : : : : : 69
Substitution Law for Conditional Expectation : : : : : : : : : 70
Law of Total Probability for Expectation : : : : : : : : : : : : 70
2.6 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 72
2.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 74
3 Continuous Random Variables 85
3.1 Denition and Notation : : : : : : : : : : : : : : : : : : : : : : : 85
The Paradox of Continuous Random Variables : : : : : : : : : 90
3.2 Expectation of a Single Random Variable : : : : : : : : : : : : : 90
Moment Generating Functions : : : : : : : : : : : : : : : : : : 94
Characteristic Functions : : : : : : : : : : : : : : : : : : : : : 96
3.3 Expectation of Multiple Random Variables : : : : : : : : : : : : 98
Linearity of Expectation : : : : : : : : : : : : : : : : : : : : : 99
Expectations of Products of Functions of Independent Ran-
dom Variables : : : : : : : : : : : : : : : : : : : : : : : : 99
3.4 ?Probability Bounds : : : : : : : : : : : : : : : : : : : : : : : : : 100
3.5 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 103
3.6 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 104
4 Analyzing Systems with Random Inputs 117
4.1 Continuous Random Variables : : : : : : : : : : : : : : : : : : : : 118
?The Normal CDF and the Error Function : : : : : : : : : : : 123
4.2 Reliability : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 123
4.3 Cdfs for Discrete Random Variables : : : : : : : : : : : : : : : : 126
4.4 Mixed Random Variables : : : : : : : : : : : : : : : : : : : : : : 127
4.5 Functions of Random Variables and Their Cdfs : : : : : : : : : : 130
4.6 Properties of Cdfs : : : : : : : : : : : : : : : : : : : : : : : : : : 134
4.7 The Central Limit Theorem : : : : : : : : : : : : : : : : : : : : : 137
Derivation of the Central Limit Theorem : : : : : : : : : : : : 139
4.8 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 142
5 Multiple Random Variables 155
5.1 Joint and Marginal Probabilities : : : : : : : : : : : : : : : : : : 155
Product Sets and Marginal Probabilities : : : : : : : : : : : : 155
Joint and Marginal Cumulative Distributions : : : : : : : : : : 157
5.2 Jointly Continuous Random Variables : : : : : : : : : : : : : : : 158
Marginal Densities : : : : : : : : : : : : : : : : : : : : : : : : 159
Specifying Joint Densities : : : : : : : : : : : : : : : : : : : : 162
Independence : : : : : : : : : : : : : : : : : : : : : : : : : : : 163
Expectation : : : : : : : : : : : : : : : : : : : : : : : : : : : : 163
?Continuous Random Variables That Are not Jointly Contin-
uous : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 164
5.3 Conditional Probability and Expectation : : : : : : : : : : : : : : 164
5.4 The Bivariate Normal : : : : : : : : : : : : : : : : : : : : : : : : 168
5.5 ?Multivariate Random Variables : : : : : : : : : : : : : : : : : : 172
The Law of Total Probability : : : : : : : : : : : : : : : : : : 175
5.6 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 177
5.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 178
6 Introduction to Random Processes 185
6.1 Mean, Correlation, and Covariance : : : : : : : : : : : : : : : : : 188
6.2 Wide-Sense Stationary Processes : : : : : : : : : : : : : : : : : : 189
Strict-Sense Stationarity : : : : : : : : : : : : : : : : : : : : : 189
Wide-Sense Stationarity : : : : : : : : : : : : : : : : : : : : : 191
Properties of Correlation Functions and Power Spectral Den-
sities : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 193
6.3 WSS Processes through Linear Time-Invariant Systems : : : : : 195
6.4 The Matched Filter : : : : : : : : : : : : : : : : : : : : : : : : : : 199
6.5 The Wiener Filter : : : : : : : : : : : : : : : : : : : : : : : : : : 201
?Causal Wiener Filters : : : : : : : : : : : : : : : : : : : : : : 203
6.6 ?Expected Time-Average Power and the Wiener{
Khinchin Theorem : : : : : : : : : : : : : : : : : : : : : : : : : : 206
Mean-Square Law of Large Numbers for WSS Processes : : : 208
6.7 ?Power Spectral Densities for non-WSS Processes : : : : : : : : : 210
Derivation of (6.22) : : : : : : : : : : : : : : : : : : : : : : : : 211
6.8 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 212
6.9 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 214
7 Random Vectors 223
7.1 Mean Vector, Covariance Matrix, and Characteristic Function : : 223
7.2 The Multivariate Gaussian : : : : : : : : : : : : : : : : : : : : : : 226
The Characteristic Function of a Gaussian Random Vector : : 227
For Gaussian Random Vectors, Uncorrelated Implies Indepen-
dent : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 228
The Density Function of a Gaussian Random Vector : : : : : 229
7.3 Estimation of Random Vectors : : : : : : : : : : : : : : : : : : : 230
Linear Minimum Mean Squared Error Estimation : : : : : : : 230
Minimum Mean Squared Error Estimation : : : : : : : : : : : 233
7.4 Transformations of Random Vectors : : : : : : : : : : : : : : : : 234
7.5 Complex Random Variables and Vectors : : : : : : : : : : : : : : 236
Complex Gaussian Random Vectors : : : : : : : : : : : : : : : 238
7.6 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 239
7.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 240
8 Advanced Concepts in Random Processes 249
8.1 The Poisson Process : : : : : : : : : : : : : : : : : : : : : : : : : 249
?Derivation of the Poisson Probabilities : : : : : : : : : : : : : 253
Marked Poisson Processes : : : : : : : : : : : : : : : : : : : : 255
Shot Noise : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 256
8.2 Renewal Processes : : : : : : : : : : : : : : : : : : : : : : : : : : 256
8.3 The Wiener Process : : : : : : : : : : : : : : : : : : : : : : : : : 257
Integrated White-Noise Interpretation of the Wiener Process : 258
The Problem with White Noise : : : : : : : : : : : : : : : : : 260
The Wiener Integral : : : : : : : : : : : : : : : : : : : : : : : : 260
Random Walk Approximation of the Wiener Process : : : : : 261
8.4 Specication of Random Processes : : : : : : : : : : : : : : : : : 263
Finitely Many Random Variables : : : : : : : : : : : : : : : : 263
Innite Sequences (Discrete Time) : : : : : : : : : : : : : : : : 266
Continuous-Time Random Processes : : : : : : : : : : : : : : 269
8.5 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 270
8.6 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 270
9 Introduction to Markov Chains 279
9.1 Discrete-Time Markov Chains : : : : : : : : : : : : : : : : : : : : 279
State Space and Transition Probabilities : : : : : : : : : : : : 281
Examples : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 282
Stationary Distributions : : : : : : : : : : : : : : : : : : : : : 284
Derivation of the Chapman{Kolmogorov Equation : : : : : : : 287
Stationarity of the n-step Transition Probabilities : : : : : : : 288
9.2 Continuous-Time Markov Chains : : : : : : : : : : : : : : : : : : 289
Kolmogorov's Dierential Equations : : : : : : : : : : : : : : : 291
Stationary Distributions : : : : : : : : : : : : : : : : : : : : : 294
9.3 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 294
10 Mean Convergence and Applications 299
10.1 Convergence in Mean of Order p : : : : : : : : : : : : : : : : : : 299
10.2 Normed Vector Spaces of Random Variables : : : : : : : : : : : : 303
10.3 The Wiener Integral (Again) : : : : : : : : : : : : : : : : : : : : 307
10.4 Projections, Orthonality Principle, Projection Theorem : : : : : 308
10.5 Conditional Expectation : : : : : : : : : : : : : : : : : : : : : : : 311
Notation : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 313
10.6 The Spectral Representation : : : : : : : : : : : : : : : : : : : : : 313
10.7 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 316
10.8 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 316
11 Other Modes of Convergence 323
11.1 Convergence in Probability : : : : : : : : : : : : : : : : : : : : : 324
11.2 Convergence in Distribution : : : : : : : : : : : : : : : : : : : : : 325
11.3 Almost Sure Convergence : : : : : : : : : : : : : : : : : : : : : : 330
The Skorohod Representation Theorem : : : : : : : : : : : : : 335
11.4 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 337
11.5 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 337
12 Parameter Estimation and Condence Intervals 345
12.1 The Sample Mean : : : : : : : : : : : : : : : : : : : : : : : : : : 345
12.2 Condence Intervals When the Variance Is Known : : : : : : : : 347
12.3 The Sample Variance : : : : : : : : : : : : : : : : : : : : : : : : : 349
12.4 Condence Intervals When the Variance Is Unknown : : : : : : : 350
Applications : : : : : : : : : : : : : : : : : : : : : : : : : : : : 351
Sampling with and without Replacement : : : : : : : : : : : : 352
12.5 Condence Intervals for Normal Data : : : : : : : : : : : : : : : 353
Estimating the Mean : : : : : : : : : : : : : : : : : : : : : : : 353
Limiting t Distribution : : : : : : : : : : : : : : : : : : : : : : 355
Estimating the Variance | Known Mean : : : : : : : : : : : : 355
Estimating the Variance | Unknown Mean : : : : : : : : : : 357
?Derivations : : : : : : : : : : : : : : : : : : : : : : : : : : : : 358
12.6 Notes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 360
12.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 362
13 Advanced Topics 365
13.1 Self Similarity in Continuous Time : : : : : : : : : : : : : : : : : 365
Implications of Self Similarity : : : : : : : : : : : : : : : : : : 366
Stationary Increments : : : : : : : : : : : : : : : : : : : : : : : 367
Fractional Brownian Motion : : : : : : : : : : : : : : : : : : : 368
13.2 Self Similarity in Discrete Time : : : : : : : : : : : : : : : : : : : 369
Convergence Rates for the Mean-Square Law of Large Num-
bers : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 370
Aggregation : : : : : : : : : : : : : : : : : : : : : : : : : : : : 371
The Power Spectral Density : : : : : : : : : : : : : : : : : : : 373
Notation : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 374
13.3 Asymptotic Second-Order Self Similarity : : : : : : : : : : : : : : 375
13.4 Long-Range Dependence : : : : : : : : : : : : : : : : : : : : : : : 380
13.5 ARMA Processes : : : : : : : : : : : : : : : : : : : : : : : : : : : 383
13.6 ARIMA Processes : : : : : : : : : : : : : : : : : : : : : : : : : : 384
13.7 Problems : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 387
Bibliography 393
Index 397


Probability and Random Processes for Electrical Engineers.pdf (2.91 MB, 下载次数: 308 )

2008-11-20 23:05 上传

点击文件名下载附件

palewolf

不错，很有用啊，谢谢楼主

nkyemao

THANKS

pedro888

thanks for your information..........................
thanks..........................................................

chickenkill

谢谢楼主，正需要这么本书～～

kimho17

在哪可以买到这本书啊？

johnyjack

excellent one, thx

btbtbtbt

很有用啊，谢谢楼主

jasse701023

很有用的一本是 下載速度也不錯

eddiehart

确实有用，感谢楼主