Teoria informatiei si coduri

PREFATA

In intreaga-i istorie, societatea umana a constientizat importanta informatiei. Suficient sa amintim ca secretul profesional, spionajul si santajul, avand acelasi obiect – informatia, au marcat in mod spectaculos destine individuale si colective.

Cu toate acestea, inainte de 1948 (anul aparitiei lucrarii matematicianului si inginerului Claude Shannon referitoare la teoria matematica a informatiei), informatia nu a beneficiat de o tratare stiintifica coerenta.

In comunicarea interumana, inca de la inceputurile vietii sociale, s-au consolidat practici pe care teoria informatiei avea sa le explice, sa le formalizeze, sa le cuantifice si sa le evalueze. Oamenii au constientizat ca in comunicarea verbala sau scrisa, cand timpul sau resursele necesare sunt critice, trebuie sa fie succinti, sa elimine cuvintele care nu sunt esentiale pentru intelegerea sensului corect al mesajului (telegramele, anunturile publicitare, convorbirile telefonice scumpe). Dupa cum, atunci cand mediul prin care se transmitea comunicarea era afectat de perturbatii (zgomote), au inteles ca pentru a-i inlesni destinatarului receptia, trebuie sa lungeasca vorbirea, sa cante (teatrul antic, slujbele religioase, unele comenzi in armata, anumite comunicari verbale in statiile de cale ferata, porturi etc.). Mai mult chiar, atunci cand nu puteau comunica prin viu grai sau cand scrierea era inadecvata pentru mijloacele tehnice folosite, oamenii au recurs la codarea mesajelor (de la folosirea fumului diferit prin culoare si intensitate de catre americano – indieni, la codurile telegrafice sau la cele folosite in calculatoarele si sistemele actuale de comunicatii se pot enumera numeroase exemple de codificare a semnalelor purtatoare de informatii). Si inca, am putea continua prin a invoca ingenioasele procedee de criptare a informatiei pentru a o proteja de intelegerea celor carora nu le era destinata (mediatizarea larga a importantei atribuita decriptarii mesajelor inamicului in cel de al doilea razboi mondial pentru succesul unor actiuni militare sau a actiunilor de patrundere ilicita in sisteme informatice protejate ale unor institutii trebuie sa fi fost suficiente pentru a fi trezit deopotriva admiratie si ingrijorare).

Daca, in cea mai mare parte, aceasta experienta de veacuri a omenirii in comunicare este anterioara anului 1948, atunci care sunt argumentele pentru care teoria matematica a informatiei a lui Claude Shannon este considerata ca un reper al evolutiei care avea sa conduca la societatea informationala si la economia bazata pe cunoastere?

In primul rand, asa cum deja am anticipat, s-a ivit pentru prima data posibilitatea de a cuantifica informatia formala si s-au identificat principiile care sa orienteze cautarile pentru a transmite o anume cantitate de informatii cu un minim de mijloace tehnice si pentru a asigura corecta intelegere a mesajului transmis pe canale cu perturbatii puternice. Nu exista un domeniu al cunoasterii in care sa nu avem nevoie sa masuram cantitatea de informatii cu care lucram; in oricare domeniu al realitatii intervine o transmitere a informatiei sub forma oricat de abstracta si de aceea este necesara cunoasterea exigentelor pentru ca aceasta transmitere sa se realizeze in bune conditiuni si cu un minim de resurse.

In al doilea rand, cibernetica definita in lucrarea fundamentala a parintelui acesteia – matematicianul Norbert Wiener – ca stiinta a comunicarii la oameni si masini, de neconceput fara teoria informatiei, a deschis calea unor spectaculoase aplicatii care au definit ultimele decenii ale secolului trecut ca perioada de inceput si de afirmare a celei de a treia revolutii tehnico-stiintifice, cea in care electronica, automatica si informatica au devenit factori determinanti.

In al treilea rand, mondializarea si globalizarea lumii contemporane au consacrat primordialitatea informatiei in oricare dintre activitati. Fluxurile materiale, energetice si financiare ale mondializarii si globalizarii sunt conditionate de fluxurile informationale. Fara capacitatea de a colecta, clasa, stoca, proteja, prelucra si interpreta informatia nu poti spera sa fi competitiv.

Ajungand aici, trebuie sa precizam ca teoria informatiei tratand statistic informatia formala (lipsita de continut) este incapabila sa puna in evidenta valoarea informatiei pentru receptor. Nu a fost creata inca o teorie care sa cuantifice valoarea informatiei. De aceea, trebuie inteles ca, de acum celebrul „savoir – faire”, ca o nazuinta pentru cei dornici sa se realizeze profesional, presupune o pricepere, o dibacie, o arta in a selecta din multimea informatiilor pe cele care sunt esentiale pentru scopul propus si apoi de a le folosi in rationamentele care sa conduca la propriile adevaruri. Tocmai am relevat rolul educatiei, al dascalului, al scolii in faurirea priceperii de a disocia, din multimea informatiilor disponibile, pe cele utile pentru judecatile necesare rezolvarilor propuse. Am gasit necesar sa subliniem aceasta misiune a scolii asumata de la primele inceputuri si pe care Galileo Galilei o reafirma in secolul XVII pentru ca, acum, in era tehnologiei informatiilor si a comunicatiilor, accesul facil la o cantitate colosala de informatii tinde sa inlocuiasca efortul de a descoperi propriul adevar cu cautarea unor adevaruri care cel mai adesea sunt valabile in alte ipoteze. Certitudinea ca nu multimea informatiilor memorate este masura succesului procesului de invatare, ci contributia la formarea unor judecati logice ne-a condus la structura si continutul acestei lucrari.

Speram ca cei care au ajuns sa constientizeze ca aspectele fundamentale ale teoriei informatiei, ale codurilor, ale securitatii informatiilor sunt indispensabile profesiei vor gasi in cuprinsul lucrarii elemente care sa le aduca un plus de intelegere pentru fenomenele societatii informationale contemporane.

Lucrarea o gasim utila viitorilor ingineri de sistem, dar si celor din alte specializari ingineresti pentru ca daca inceputurile ingineriei sunt pretutindeni legate de formarea priceperilor necesare masurarii terenului si intocmirii hartilor/planurilor de situatie, atunci inca din perioada de debut a celei de a treia revolutii tehnico – stiintifice ingineria nu mai poate fi conceputa in afara conexiunilor cu tehnologia informatiilor si a comunicatiilor.

Bucuresti, 30 septembrie 2011

Autorii

CUPRINS

1. INFORMATIA SI TRANSMISIUNEA INFORMATIEI
1.1. Informatia. Semnalul. Definitii. Proprietati
1.2. Procesele de comanda si informatia
1.3. Informatia si codificarea
1.4. Cantitatea de informatii. Unitati de masura. Consecinte ale modului de determinare a cantitatii de informatii
1.5. Entropia informationala. Proprietati
1.6. Entropia conditionata. Entropia sistemului reunit
1.7. Cantitatea de informatii reciproce
1.8. Transmisiunea informatiei
1.8.1. Sursa de informatie
1.8.2. Structura statistica a canalelor de transmisiuni
1.8.3. Cantitatea de informatii care se poate transmite prin canal
1.8.4. Capacitatea canalelor discrete de transmisiuni
1.8.5. Interpretarea geometrica a semnalului si a canalului
1.8.6. Capacitatea canalelor pentru transmiterea diferitelor tipuri de comunicari
1.9. Intrebari si probleme
1.9.1. Intrebari
1.9.2. Probleme rezolvate
1.9.3. Probleme propuse

2. CODIFICAREA INFORMATIEI IN CANALE FARA PERTURBATII
2.1. Codul optim. Teoremele codificarii
2.2. Metode de codificare in canale fara perturbatii
2.2.1. Codarea Shannon-Fano
2.2.2. Codarea Huffman
2.2.3. Codarea pe grupuri de litere
2.2.4. Codarea digramelor
2.3. Intrebari si probleme
2.3.1. Intrebari
2.3.2. Probleme rezolvate
2.3.2. Probleme propuse

3. CODIFICAREA INFORMATIEI IN CANALE CU PERTURBATII
3.1. Erori si modul de tratare
3.2. Elemente fundamentale ale codificarii in canale cu perturbatii
3.2.1. Punerea problemei
3.2.2. Cuvantul eroare
3.2.3. Erori individuale
3.2.4. Pachete de erori
3.2.5. Mecanismul de detectie si corectie a erorilor
3.2.6. Alegerea codurilor detectoare sau corectoare de erori
3.3. Coduri detectoare de erori
3.3.1. Coduri cu verificarea paritatii
3.3.2. Coduri cu raport fix de simboluri in combinatii
3.3.3. Coduri corelative
3.3.4. Coduri inverse
3.4. Coduri corectoare de erori
3.4.1. Coduri Hamming
3.4.2. Coduri de grup si coduri ciclice
3.4.3. Alte coduri detectoare si corectoare
3.4.3.1. Coduri recurente
3.4.3.2. Coduri construite pe baza patratelor magice generalizate
3.4.4. Metode specifice de detectie si corectie in teleprelucrare
3.5. Intrebari si probleme
3.5.1. Intrebari
3.5.1. Probleme rezolvate
3.5.2. Probleme propuse

4. CODIFICAREA IN SISTEMELE INFORMATICE SI TRANSMITEREA SECRETA A COMUNICARILOR
4.1. Codificarea externa a datelor
4.2. Codificarea binara a datelor pentru calculatorul electronic
4.2.1. Coduri pentru caracterele alfanumerice
4.2.2. Coduri pentru caracterele numerice
4.3. Criptarea comunicatiilor
4.4. Decriptarea mesajelor cifrate
4.4.1. Capacitatea teoretica de asigurare a secretului comunicarilor
4.4.2. Metode practice de decriptare
4.5. Sisteme de protectie si autentificare in sistemele de teleinformatica
4.5.1. Obiective
4.5.2. Aplicatiile metodelor criptografice in sistemele de teleprelucrare
4.5.2.1. Criptosisteme cu chei publice
4.5.2.2. Semnatura digitala
4.6. Intrebari si probleme
4.6.1. Intrebari
4.6.2. Probleme rezolvate
4.6.3. Probleme propuse

BIBLIOGRAFIE