Tin tức lượng
Thông tín lĩnh vực thuật ngữ
Tin tức lượng là chỉ tin tức nhiều ít mức đo lường. 1928 năm R.V.L. Heart lai đầu tiên đưa ra tin tức định lượng hóa bước đầu thiết tưởng, hắn đem tin tức số đối số định nghĩa vì tin tức lượng. Nếu tin nguyên có m loại tin tức, thả mỗi cái tin tức này đây bằng nhau khả năng sinh ra, tắc nên tin nguyên tin tức lượng nhưng tỏ vẻ vì I=logm. Nhưng đối tin tức lượng làm thâm nhập màHệ thống nghiên cứu,Vẫn là từ 1948 năm C.E.Hương nôngĐặt móng tính công tác bắt đầu. ỞLý thuyết thông tinTrung, cho rằng tin nguyên phát ra tin tức là tùy cơ. Tức ở chưa thu được tin tức phía trước, là không thể khẳng định tin nguyên rốt cuộc gửi đi cái dạng gì tin tức. Mà thông tín mục đích cũng chính là muốn sử tiếp thu giả ở tiếp thu đến tin tức sau, tận khả năng nhiều giải trừ tiếp thu giả đối tin nguyên sở tồn tại đáng nghi ( không chừng độ ), bởi vậy cái này bị giải trừ không chừng độ trên thực tế chính là ở thông tín trung sở muốn truyền tống tin tức lượng.
- Tiếng Trung danh
- Tin tức lượng
- Ngoại văn danh
- amount ( quantity ) of information[1]
- Ứng dụng ngành học
- Thông tín
- Lãnh vực
- Công trình kỹ thuật
- Sơ đề thời gian
- 1928 năm
- Hàm nghĩa
- Chỉ tin tức nhiều ít mức đo lường
1928 năm, R．V．L． Heart lai đưa ra tin tức định lượng hóa bước đầu thiết tưởng, hắn đem ký hiệu lấy giá trị số m đối số định nghĩa vì tin tức lượng, tức I=log2m. Đối tin tức lượng làm thâm nhập, hệ thống nghiên cứu chính là lý thuyết thông tin người sáng lập C．E． hương nông. 1948 năm, hương nông chỉ ra tin nguyên cấp ra ký hiệu là tùy cơ, tin nguyên tin tức lượng hẳn là xác suất hàm số, lấy tin nguyên tin tức entropy tỏ vẻ, tức
Tỷ như, nếu một cái liên tục tin nguyên bị chờ xác suất lượng hóa thành 4 tầng, tức 4 loại ký hiệu. Cái này tin nguyên mỗi cái ký hiệu sở cấp ra tin tức lượng ứng vì
Đồ 1Trong đó H ( U|V ) xưng là điều kiện entropy, tức trước một ký hiệu V đã biết khi sau một ký hiệu U không xác định độ.
Tin tức lượng cùng tin tức entropy ở khái niệm thượng là có khác nhau. Ở thu được ký hiệu phía trước là không thể khẳng định tin nguyên rốt cuộc gửi đi cái gì ký hiệu, thông tín mục đích chính là sử tiếp thu giả ở thu được ký hiệu sau, giải trừ đối tin nguyên tồn tại đáng nghi ( không xác định độ ), sử không xác định độ biến thành linh. Này thuyết minh tiếp thu giả từ gửi đi giả tin nguyên trung đạt được tin tức lượng là một cái tương đối lượng ( H ( U ) -0 ). Mà tin tức entropy là miêu tả tin nguyên bản thân thống kê đặc tính lượng vật lý, nó tỏ vẻ tin nguyên sinh ra ký hiệu bình quân không xác định độ, mặc kệ có vô tiếp thu giả, nó luôn là khách quan tồn tại lượng.
Từ tin nguyên trung một cái ký hiệu V trung thu hoạch một khác ký hiệu u tin tức
Lượng nhưng dùng tin lẫn nhau tức tỏ vẻ, tức
I ( U; V ) = H ( U ) -H ( U|V )
Tỏ vẻ ở thu được V về sau vẫn cứ tồn tại đối tin nguyên ký hiệu U đáng nghi ( không xác định độ ). Giống nhau tình hạ ứng bối huống hạ
I ( U; V ) ≤H ( U nói điệp chỉnh )
Tức đạt được tin tức lượng so tin nguyên cấp ra tin tức entropy muốn tiểu.
Liên tục tin nguyên nhưng có vô hạn cái cùng cạo táo lấy giá trị, phát ra tin tức lượng là vô cùng lớn, nhưng tin lẫn nhau đương mốc tức là hai cái entropy giá trị chi kém, là tương đối lượng. Như vậy, bất luận liên tục hoặc ly tán tin nguyên, tiếp thu giả thu hoạch tin tức lượng vẫn cứ bảo trì tin tức hết thảy đặc tính, thả là hữu hạn giá trị.
Tin tức lượng dẫn vào, sử thông tín, tin tức cùng với tương quan ngành học có thể thành lập ở phân tích định lượng cơ sở thượng, vì các có quan hệ lý luận đích xác lập cùng phát triển cung cấp bảo đảm[2]Đài tổ.
Cái gọi là tin tức lượng là chỉ từ N cái bằng nhau khả năng sự kiện trúng tuyển ra một sự kiện sở yêu cầu tin tức độ lượng hoặc hàm lượng, cũng chính là ở nhận biết N chuyện này kiện trung riêng một sự kiện trong quá trình sở yêu cầu vấn đề "Là hoặc không" ít nhất số lần.
Hương nông( C. E. Shannon )Lý thuyết thông tinỨng dụngXác suấtTới miêu tả không xác định tính. Tin tức là dùng không xác định tính mức đo lường định nghĩa. Một tin tức khả năng tính càng tiểu, này tin tức càng nhiều; mà tin tức khả năng tính càng đại, tắc này tin tức càng thiếu. Sự kiện xuất hiệnXác suấtTiểu, không xác định tính càng nhiều, tin tức lượng liền đại, phản chi tắc thiếu.
Tin tức hiện đại định nghĩa.[2006 năm, y học tin tức ( tạp chí ), Đặng vũ chờ ].
Tin tức làSự vậtHiện tượng vàThuộc tính đánh dấuTập hợp. 2002 năm
ỞToán họcThượng, truyền lại thua tin tức là này xuất hiệnXác suấtĐơn điệu giảm xuống hàm số. Như từ 64 cái số trúng tuyển định mỗ một số, vấn đề: “Hay không lớn hơn 32?”, Tắc bất luận trả lời phải và không phải, đều đánh tan một nửa khả năng sự kiện, như thế đi xuống, chỉ cần hỏi 6 thứ loại này vấn đề, liền có thể từ 64 cái số trúng tuyển định một số. Chúng ta có thể dùng cơ số hai 6 hàng đơn vị tới ký lục này một quá trình, liền có thể được đến này tin tức.
Tin tức nhiều ít mức đo lường. 1928 nămR.V.L. Heart laiĐầu tiên đưa ra tin tức định lượng hóa bước đầu thiết tưởng, hắn đem tin tức số đối số định nghĩa vì tin tức lượng. Nếu tin nguyên cómLoại tin tức, thả mỗi cái tin tức này đây bằng nhau khả năng sinh ra, tắc nên tin nguyên tin tức lượng nhưng tỏ vẻ vìI=logm.Nhưng đối tin tức lượng làm thâm nhập màHệ thống nghiên cứu,Vẫn là từ 1948 nămC.E. Hương nôngĐặt móng tính công tác bắt đầu.
Tin tức thống kê đặc thù miêu tả là sớm tại 1948 nămHương nôngĐem nhiệt lực học trung entropy khái niệm cùngEntropy tăng nguyên lýDẫn vào tin tức lý luận kết quả. Đi trước khảo sátEntropy tăng nguyên lý.Nhiệt lực học trungEntropy tăng nguyên lýLà như thế này thuyết minh: Tồn tại một cái thái hàm số － entropy, chỉ cóKhông thể nghịch quá trìnhMới có thể sửCô lập hệ thốngEntropy gia tăng, mà đảo ngược quá trình sẽ không thay đổi cô lập hệ thống entropy. Từ giữa có thể thấy được: Một, entropy cập entropy tăng là hệ thống hành vi; nhị, cái này hệ thống làCô lập hệ thống;Tam, entropy là thống kê tínhTrạng thái lượng,Entropy tăng là thống kê tínhQuá trình lượng.Thảo luận tin tức entropy thuyết minh khi, ứng đầy đủ chú ý những đặc trưng này tồn tại. Hơn nữa biết, cấp định hệ thống trung phát sinh tin tức truyền bá, là không thể nghịch quá trình.
E.H.Weber
Công thức① phi phụ tính:I(X;Y)≥0, chỉ đương thu được tin tức cùng gửi đi tin tức thống kê độc lập khi, tin lẫn nhau tức mới vì 0.
Công thức③ tính đối xứng:I(X;Y)=I(Y;X),TứcYẨn hàmXCùngXẨn hàmYTin lẫn nhau tức là bằng nhau.
Đối với liên tục tin nguyên tin lẫn nhau tức, nó vẫn tỏ vẻ hai cái entropy kém giá trị, cho nên cũng có thể trực tiếp từ ly tán tình huống tăng thêm mở rộng, cũng bảo trì kể trên ly tán tình huống hết thảy đặc tính, tức thực tế tin nguyên là đơn cái tin tức tin nguyên tổ hợp, cho nên thực tế tin nguyên tin lẫn nhau tứcI(X;Y)Cũng có thể trực tiếp từ kể trên đơn cái tin tức tin lẫn nhau tứcI(X;Y)Tăng thêm mở rộng, tứcI(X;Y)=H(X)-H(X│Y).
Lý thuyết thông tinNgười sáng lậpC.E.Shannon,1938 năm lần đầu sử dụng so đặc ( bit ) khái niệm: 1 ( bit ) =
m cái đối tượng tập hợp trung đệ i cái đối tượng, ấn n cái xem khống chỉ tiêu suy đoán trạng thái tập hợp
Toàn tin tức lượng TI=
Từ thí nghiệm sau kết cục biết được thí nghiệm trước không chừng độ giảm bớt, chính làHương nôngGiới định tin tức lượng, tức
Tự do tin tức lượng FI=－∑pi
Thức trung pi là cùng tùy cơ lượng biến đổi xi đối ứng xem khống quyền trọng, nó xu gần chiếu rọi kỳ thật tế trạng thái phân bốXác suất.Từ này nội tại phân bố cấu thành khiến cho ở thí nghiệm trước không chừng độ giảm bớt, xưng là trước nghiệm tin tức hoặc gọi ước thúc tin tức lượng. Nguy hiểm là tiềm tàng ởTùy cơ lượng biến đổiChưa biến phía trước nội tại kết cấu có thể ( tức hình thành nên loại kết cấu rất nhiều tác dụng trung còn ở tiếp tục có tác dụng hữu hiệu năng lượng ) trung. Có thể biểu hiện, chiếu rọi loại này tác dụng chính là
Ước thúc tin tức lượng BI=TI-FI.
Nghiên cứu cho thấy, m cái xem khống đối tượng, ấn n cái xem khống chỉ tiêu tiến hành quy phạm hoá khống chế soSo tiền lời lựa chọn phương án tối ưu tự,Cùng với tự do tin tức lượng FI chi lựa chọn phương án tối ưu tự xu gần nhất trí; hơn nữa các xem khống đối tượng “Càng tự do, nguy hiểm càng tiểu”; ước thúc tin tức lượng BI chính là chiếu rọi này nguy hiểm bổn chinh tính suy đoán, tức nguy hiểm entropy.
Đem tin tức miêu tả vìTin tức entropy,LàTrạng thái lượng,Này tồn tại là tuyệt đối; tin tức lượng là entropy tăng, làQuá trình lượng,Là cùng tin tức truyền bá hành vi có quan hệ lượng, này tồn tại là tương đối. Ở suy xét đến hệ thống tính,Thống kê tínhCơ sở thượng, cho rằng: Tin tức lượng là bởi vì cụ thể tin nguyên cùng cụ thể hai đêm phạm vi quyết định, miêu tả tin tức tiềm tàng khả năng lưu động giá trị thống kê lượng. Bổn cách nói phù hợpEntropy tăng nguyên lýSở yêu cầu điều kiện:
Một, “Cụ thể tin nguyên cùng hai đêm phạm vi” cấu thànhCô lập hệ thống,Tin tức lượng là hệ thống hành vi mà không chỉ là tin nguyên hoặc hai đêm đơn độc hành vi.
Nhị, giới định tin tức lượng là thống kê lượng. Này loại thuyết minh còn nói minh, tin tức lượng cũng không ỷ lại cụ thể truyền bá hành vi mà tồn tại, là đối “Cụ thể tin nguyên cùng cụ thể hai đêm” mỗ tin tức tiềm tàng khả năng lưu động giá trị đánh giá, mà không phải nhằm vào đã thực hiện tin tức lưu động. Bởi vậy, tin tức lượng thực hiện tin tức độ lượng[3].
Như thế nào tính toán tin tức lượng nhiều ít? Ở sinh hoạt hằng ngày trung, cực nhỏ phát sinh sự kiện một khi phát sinh là dễ dàng khiến cho mọi người chú ý, mà xuất hiện phổ biến sự sẽ không khiến cho chú ý, nói cách khác, cực nhỏ thấy sự kiện sở mang đến tin tức lượng nhiều. Nếu dùng môn thống kê thuật ngữ tới miêu tả, chính là xuất hiệnXác suấtTiểu nhân sự kiện tin tức lượng nhiều. Bởi vậy, sự kiện xuất hiện đếnXác suấtCàng nhỏ, tin tức lượng càng đại. Tức tin tức lượng nhiều ít là cùng sự kiện phát sinh thường xuyên ( tứcXác suấtLớn nhỏ ) thành ngược lại.
⒈ như đã biết sự kiện Xi đã phát sinh, tắc tỏ vẻ Xi sở đựng hoặc sở cung cấp tin tức lượng
H(Xi) = −
Ví dụ mẫu: Nếu phỏng chừng ở một lần cờ vua trong lúc thi đấu tạ quân đạt được quán quân khả năng tính vì 0.1 ( nhớ vì sự kiện A ), mà ở một khác thứ cờ vua trong lúc thi đấu nàng được đến quán quân khả năng tính vì 0.9 ( nhớ vì sự kiện B ). Thí phân biệt tính toán đương ngươi biết được nàng đạt được nên thứ thi đấu quán quân khi, từ giữa đạt được tin tức lượng các vì nhiều ít?
H(A)=-
H(B)=-
⒉ thống kê tin tức lượng tính toán công thức vì:
Xi —— tỏ vẻ đệ i cái trạng thái ( tổng cộng có n loại trạng thái );
H(X)—— tỏ vẻ dùng để tiêu trừ sự vật này không xác định tính sở yêu cầu tin tức lượng.
Ví dụ mẫu: Hướng không trung ném mạnh tiền xu, rơi xuống đất sau có hai loại khả năng trạng thái, một cái là chính diện triều thượng, một cái khác là phản diện triều thượng, mỗi cái trạng thái xuất hiệnXác suấtVì 1/2. Như ném mạnh đều đềuChính sáu mặt thểXúc xắc, tắc khả năng sẽ xuất hiện trạng thái có 6 cái, mỗi một cái trạng thái xuất hiệnXác suấtĐều vì 1/6. Thí thông qua tính toán tới tương đối xúc xắc trạng thái không khẳng định tính cùng tiền xu trạng thái không khẳng định tính lớn nhỏ.
H ( tiền xu ) = - ( 2×1/2 ) ×
H ( xúc xắc ) = - ( 1/6×6 ) ×
Từ trở lên tính toán có thể đến ra hai cái suy luận:
[ suy luận 1] đương thả chỉ đương nào đó P(Xi)=1, còn lại đều tương đương 0 khi, H(X)= 0.
[ suy luận 2] đương thả chỉ đương nào đó P(Xi)=1/n, i=1, 2,……, n khi, H(X) có cực đại log n.
Hiện giờ được xưng làTin tức hóa xã hội,Hiện đại tình báo họcLý luận và ứng dụng, phi thường chú trọng tin tức lượng hóa suy đoán. 1980 niên đại,Anh quốcTrứ danh tình báo học giảB.C. Brooks,Ở trình bày người chi tin tức ( tình báo ) thu hoạch quá trình khi, thâm nhập nghiên cứu cảm giác tin tức tiếp thu quá trình, cũng đemThấu thị nguyên lý── đối tượng quan sát chiều dài Z cùng từ người quan sát đến bị quan sát đối tượng chi gian vật lý khoảng cách X thành ngược lại, dẫn vào tình báo học, đưa ra Z=
1957 năm Stevens đưa raMịch định luật:S=bIa, a cùng b vì đặc thù hằng số.Tâm lý vật lý hàm sốĐến tột cùng là phục tùngMịch định luậtVẫn là phục tùngĐối số định luật?W.S.Togerson cho rằng, này không thể thông qua thực nghiệm giải quyết, mà là một cái ở thực nghiệm trung tiến hành lựa chọn vấn đề. G.Ekman ở giả định FechnerĐối số định luậtLà phổ biến chính xác tiền đề hạ, suy luận raMịch định luậtLà đối số định luật một cái trường hợp đặc biệt.
Trung QuốcCó xông ra cống hiến nhà khoa họcTrình thế quyền,Ở 1990 năm xuất bản《 mơ hồ quyết sách phân tích 》Một cuốn sách trung, xem xét và giới thiệu dẫn thuậtVới hoành nghĩaChờ đối “Hệ thống định tính cùng định lượng chuyển hóa, tổng kết quy nạp ra một loại phương tiện được không, khoa học đáng tin cậy định tính bài tự cùng định lượng chuyển hóa phương pháp”.Với hoành nghĩaChờ chi phương pháp, ở lợi dụng hiện ở thường xuyên tin tức đồng thời, xảo diệu lợi dụng tiềm tàng phiếm tự tin tức —— tài ứng biến, sử mơ hồ hệ thống giản tiện hữu hiệu mà chuyển hóa thành rõ ràng công trình hệ thống. Này suy đoán hình thức là:
F(I)=Ln(max{I}-I+2)/Ln(max{I}+1).
Thức trung, I vì sở luận đối tượng ấn nhất định chỉ tiêu bài tự tự hào, F(I) vì này lệ thuộc độ. Thực tế ứng dụng trung xảo diệu vận dụng “Tự động xích” cơ chế, xác thật giản tiện, thực dụng, hữu hiệu. Cái gọi là “Tự động xích” cơ chế, chính là “Đánh giá giả ở đánh giá người khác hắn sự hắn vật đồng thời, không thể không biểu hiện tự thân, không thể không bị đánh giá”[4].
