Informationsteori

Grundläggande begrepp i teorin infördes på fyrtiotalet av det tjugonde århundradet, Shannon. informationsteori - vetenskapen om processen att överföra, lagra och hämta data i naturliga, tekniska och sociala system. I många tillämpningar av vetenskapliga områden såsom datavetenskap, lingvistik, kryptografi, reglerteknik, bildbehandling, genetik, psykologi, ekonomi, organisation av produktionsmetoder används denna vetenskap.

I moderna förhållanden med informationsteori mycket tätt länkade till en kodningsteori, diskuterar de vanligaste problemen med överensstämmelse mellan en signal och ett meddelande, och teorin om signalbehandling, varvid kvantisering studerats och återställningssignaler och spektral och korrelationsanalys därav.

informationsteori anser det grundläggande begreppet "information" för det mesta kvantitativt utan att ta hänsyn dess värde, och ibland meningslöst. I denna strategi kommer en sida med text innehåller ungefär samma mängd data som bestäms av ett antal tecken och symboler, och beror inte på det faktum att strängt taget är det tryckt, även om det är absolut meningslöst och kaotisk uppsättning av vissa symboler.

Detta tillvägagångssätt är motiverat, men bara för simulering av kommunikationssystem, eftersom de måste noggrant överföra information om kommunikationskanalerna, som kan vara en uppsättning tecken och symboler. Sedan, när det är nödvändigt att ta hänsyn till värdet och betydelsen av data är kvantitativ metod oacceptabelt. Dessa omständigheter införa betydande restriktioner på området eventuell tillämpning av denna teori.

Grunderna i informationsteori innebär hänsyn till olika frågor, bland annat direkt relaterad till sändning och mottagning av data. Huvudkommunikationsschema, som anses i undervisningen är som följer. Information Theory and Coding Han anser att detta är källan av meddelanden, som är ett ord eller en uppsättning ord skrivna vissa bokstäver i alfabetet. Källan budskapet kan vara text till fysiska eller konstgjort språk, mänskligt språk, databas och vissa matematiska modeller, skapar en sekvens av bokstäver. Sändaren omvandlar meddelandet till en signal som motsvarar den fysikaliska naturen hos kommunikationskanalen - medium för signalöverföring. Under passagen av sådan det är föremål för störningar som introducerar en snedvridning i värdet av de informationsparametrar. Mottagaren återvinner det ursprungliga meddelandet från den mottagna förvrängda signalen. Meddelande i en reducerad form kommer till destination - en viss person eller en teknisk anordning.

meddelandekälla är statistisk till sin natur, dvs utseendet på varje meddelande bestäms av en viss sannolikhet. Shannons informationsteori tror att om sannolikheten för att meddelandet är lika med ett, det vill säga hans utseende avsevärt och osäkerheter inte tro att det inte bär någon information.

En av de viktiga problemen med informationsteori anser samordningen av kommunikationskanalen och informations egenskaper hos meddelandekällan. Bandbredd bestäms av enhet av en bit per sekund.

Ett problem med kommunikationssystem är interferens till den önskade signalbanan. Shannon, tyvärr inte ger oss de specifika metoder för att hantera dem. Det enklaste borttagning metod som upprepas många gånger meddelanden är inte särskilt effektiva eftersom det tar längre tid kostnaderna för överföring av information. Mycket större effektivitet tillåter användning av koder som gör att du kan upptäcka och korrigera fel i dataöverföringen.