Inligtingsteorie

Inligtingsteorie
Entropie Differensiële entropie Voorwaardelike entropie Gesamentlike entropie Wedersydse inligting Voorwaardelike wedersydse inligting Relatiewe entropie Entropie koers Beperking van digtheid van diskrete punte
Asimptotiese ekwipartisie-eienskap Tempo-vervorming teorie
Shannon se bronkoderingstelling Kanaal kapasiteit Ruiserige-kanaal kodering stelling Shannon–Hartley stelling

Inligtingsteorieis ’n vertakking van toegepaste wiskunde enelektroniese ingenieursweseen het te doen met die meting of kwantifisering van inligting. Die veld is fundamenteel gevestig deur die werke vanHarry NyquistenRalph Hartley,in die 1920s, enClaude Shannonin die 1940s.Claude Shannon word as vader van hierdie studie beskou en sy1948gepubliseerde wetenskaplike artikelA Mathematical Theory of Communicationshet die grondslag gelê vir die informasie-era (Engels:Information Age).

’n Beeld van krapplekke op die leesbare oppervlak van ’n CD-R. Musiek- en Data-CD’s word gekodeer met foutherstellingskodes en kan dus steeds deur middel van foutoptelling- en foutherstellingstegnieke gelees word, alhoewel hulle klein krapplekke bekom het.

Inligtingsteorie help wetenskaplikes om verskillende stelsels se kapasiteit om informasie te stoor, oor te dra en te verwerk, te bepaal. Inligtingsteorie is ook bemoeid met datakompressie en met metodes vir die vermindering van geraas en foute, om sodoende so veel as moontlik data betroubaar te kan stoor of oor ’n kanaal te kan stuur. Die maatstaf van informasie, ook bekend as informasie entropie, word gewoonlik uitgedruk as die gemiddelde hoeveelheidbissebenodig vir die berging of oordrag van data. Baie van die ondersteunendewiskundeis deurLudwig BoltzmannenJosiah Willard Gibbsvirtermodinamikaontwikkel.Alan Turinghet soortgelyke idees gebruik toe hy gedurende dieTweede WêreldoorlogdieDuitseEnigmasyferskrifkode (Engels:ciphers) gebreek het.

Inligtingsteorie affekteer ’n wye verskeidenheid van velde, wat strek vanaf wiskunde enrekenaarwetenskaptot byneurobiologie,taalkundeenswart kolke.Praktiese toepassings, sluit in die herstel van foute as gevolg van krapplekke opDVD’s. ’n Artikel in 1953 in die tydskrifFortune,bevat die volgende:

It may be no exaggeration that man's progress in peace, and security in war, depend more on fruitful applications of Information Theory than on physical demonstrations, either in bombs or in power plants, thatEinstein’s famous equation works.

Claude Shannon is in2001oorlede, teen die ouderdom van 84, na ’n lang stryd teenAlzheimer se siekte.

Bronne

• The Math Book,Clifford A. Pickover.ISBN 978-1-4027-5796-9