Entropija je apstraktna fizička veličina koju je (pod tim nazivom) prvi u fiziku uveo Klauzijus u svom radu iz 1865:
“Predlažem da nazovemo veličinu S entropija, po Grčkoj reči [τροπη trope] transformacija. Namerno sam izabrao naziv entropija što je više moguće bude sličan reči energija zato što su toliko bliske po fizičkom značaju da mi se čini da je prikladno i da im nazivi budu slični”
Međutim još pre njega radove na sličnu temu imali su Lazar Karno i njegov sin Sadi Karno. Godine 1803 matematičar Lazar Karno objavio rad pod nazivom ” Fundamentalni principi ravnoteže i kretanja”. U ovom radu on diskutuje o efikasnosti mašina koje pretvaraju energiju u rad (motori u to vreme su imali jako nizak stepen korisnog dejstva , čak i manje od 2%). On je tada dao teoremu po kojoj vibracije i kretanje delova mašine predstavljaju gubitak momenta kretanja i energije, pa je iz toga izveo zaključak da je večno kretanje nemoguće (perpetuum mobile) i ovo predstavlja preteču drugog zakona termodinamike. Read more…
Sredinom 19. veka formulisani su neki od osnovnih principa termodinamike:
- Energija koja se dovodi sistemu trosi se delom na vršenje rada a delom na promenu unutrašnje energije (1 zakon termodinamike)
- Toplota spontano prelazi sa toplijeg tela na hladnije.
Medjutim, iako je Sadi Karno zaključio da se jedan deo energije uvek gubi nije tačno određeno koliko. Ovaj problem je rešio Klauzijus 1854 godine kada je došao do zaklučka posmatrjući karnoov ciklus da je količnik dobijene i izgubljene toplote jednak količniku vrednosti temperatura toplijeg i hladnijeg rezervoara: Read more…
Geometrijska frustracija
Geometrijske frustracije su fenomen u fenomen u fizici kondenzovane materije u kome geometrijske osobine kristalne rešetke ili prisustvo atomskih sila mogu da „zabrane“ spontano opadanje energije što može dovesti do poremećenog osnovnog stanja, odnosno entropije koja je veća od nule na nula stepini kelvina.
Primer ovakve pojave je led. Kada su 1936 Giauque i Stout su objavili rad „Entropija vode i treći zakon termodinamike“. U tom radu su merili toplotni kapacitet vode na temperaturama od 15 do 273K i objavili pokazivanja kalorimetra od zamrzavanja vode do njenog isparivanja. Rezultati entropije su bili
, a to je rezultat koji se ne poklapa sa teorijskim koji iznosi
, a njihova međusobna razlika je
. Ovu razliku je objasni Linus Pauling uz pomoć same strukture leda. Read more…
Klasična termodinamika
Osnovna definicija u termodinamici kaže da ako se telu na temperaturi T preda beskonačno mala količina toplote
entropija tela poveća se za
.
Takođe entropija je čisto teorijska I apstraktna veličina “uvedena” u fiziku koja se ne može neposredno meriti već se može samo meriti njena promena na osnovu Nernstovog postulata po kome je određen nulti nivo od koga se meri, a koji kaže da je entropija tela na temperature od 0 kelvina isto 0. Slično kao i potencijalna energija i entropija predstavlja funkciju stanja sistema kod koje se promena računa kao
odnosno to je aditivna veličina. Read more…
Statistički pogled
Godine 1905 Ludvig Bolcman je uveo teoriju po kojoj je priroda entropije povezana sa verovatnoćom stanja atoma ili molekula u sistemu. Iz ovoga je i proistekla njegova formula koja daje novu formulaciju entropije i glasi:

Gde je k-Bolcmanova konstanta a w-termodinamička verovatnoća. Po ovoj teoriji svaki sistem prepušten sam sebi teži ravnoteži odnosno stanju najveće verovatnoće, a to je stanje za koje postoji najviše mikrostanja. Mikrostanje sistema npr. nekog gasa bi bila “zamrznuta” slika gde bi videli za dati trenutak položaj I brzinu svakog molekula.
U tom trenutku ceo gas ima neki ukupan (makroskopski) pritisak P koji u stvari predstavlja zbir pritisaka svakog molekula u tom trenutku. Međutim čak I kada bi pomerili neki molekul ili mu promenili brzinu to bi bilo drugačije mikrostanje ali ukupan pritisak bio isti. A pošto se u jednom gasu nalazi broj molekula reda veličine
koji se kreću brzinama većim od 1000 m/s možemo da zamislimo koliko onda ima mikrostanja za jedno makrostanje. Na primer ako imamo 100 novčića i bacimo ih sve odjednom najmanja je verovatnoća da padnu 100 pisma ili 100 glava jer za to postoji samo jedna mogućnost a za 50 pisma i 50 glava bilo kako raspoređenih postoji približno
mogućnosti odnosno verovatnoća tog stanja je mnogo veća, inače zbog ovoga se nekad o mikrostanjima govori kao o manjku znanja o sistemu. Read more…
Entropija raste ako se krećemo od čvrstog preko tečnog do gasovitog stanja:

Što je molekul pokretljiviji to je njegova entropija veća i ima više stepeni slobode. Stepeni slobode su u vezi načina kretanja molekulakoja mogu biti vibracija rotacija i translacija. Read more…
Entropija mešanja (u slučaju dva idealna gasa)

Entropije komplikovanijih molekula su veće od entropija jednostavnijih molekula:
Read more…
Entropija se nekada naziva i strela vremena. S obzirom na to da se entropija svemira stalno povećava kada bismo događaje koji su se desili poređali po stanju entropije svemira od najmanjeg ka najvećem mi bismo ih u stvari postavili hronološki. U teoriji postoje 3 osnovne strele vremena: psihološka (koja predstavlja način na koji mi „osećamo“ vreme i sećamo se prošlosti a ne budućnosti), termodinamička (smer vremena u kome se entropija povećava) i kosmološka (smer vremena u kome se univerzum širi a ne sažima). Procesi koji se odvijaju u prirodi su u praksi nepovratni. Ovo znači da kada na primer čaša padne sa stola i razbije se ona neće sama od sebe da se podigne sklopi i vrati na sto već neko mora da utroši energiju i izvrši rad kojim će ta da skupi deliće i da čašu vrati na sto. Ovo je naravno poznato i iz iskustva i to je takođe i primena drugog zakona termodinamike koji kaže da svaki sistem prepušten sam sebi teži stanju najvećeg haosa odnosno da se u prirodi ne dešavaju spontani prelazi iz stanja veće u stanje manje uređenosti. Read more…
Osobine entropije kao veličine u informatici su: Neprekidnost- s obzirom da se entropija računa kao logaritam, menjanje verovatnoće menja entropiju za malu vrednost.Simetrija- entropija je ista bez obzira po redu se računa

Maksimum – Entropija je maksimalna kada su verovatnoće svih mogućih odgovora jednake.
Read more…
Primena entropije na teoriju informacija u stvari predstavlja statistički opis informacija, izvora informacija i operacija sa njima (kompresovanje itd.).
Teorija informacija je grana primenjene matematike nastala u 20 veku. Osnovu ove teorije čine radovi „Prenos informacija“ koji je objavio Ralf Hartli 1928 zatim možda i najvažniji „Matematička teorija komunikacije“ Kloda Šenona iz 1948 i „Kibernetika“ koju je takođe 1948 godne objavio Norbert Viner. Hartli je prvi definisaoizraz za količinu informacije , Šenon je uz pomoć matematičara Von Njumana definsao entropiju izvora informacija proučavajući izgubljene signale u telefonskim žicama a Viner je dao svoju teoriju po kojoj je informacija mera uređenosti dok je neodređenost mera neorganizovanosti i po količinama su iste pa važi
(informacija) = (neodređenost). Read more…
Pod uticajem matematičara kao što je Šenon i ostalih koji su bili zaslužni za zaslužni za razvijanje teorije haosa neki psiholuzi kao što su Karl Jang ili Ilija Prigonin (Ilya Prigogine) razvili su teorije po kojima i čovek odnosno neki njegovi organi ( npr. Mozak) ali i psiha mogu da se posmatraju kao veliki sistemi čije pomene mogu da se opisuju parametrima termodinamike.Oni čoveka opisuju kao otvoreni živi i disipativni dinamički sistem koji preživljava zato što je otvoren za prolazak energije i koji uzima energiju sa niskom entropijom (hrana, kiseonik) a izbacuju energiju sa visokom (toplota, ugljen dioksid).
Najveća pažnja posvećena je mozgu. Uopšte smatra se da je mozak najkompleksniji sistem koji se sastoji od 1010 nervnih ćelija koje nam omogućuju učenje, pamčenj,e govor, prepoznavanje i ostalo Postoji nekoliko modela koja se koriste ( fizički i neurofizički, model biohemijskih i neurohemijskih sistema, kognitivni modeli, kompleksni sistemi koji koriste teoriju haosa). Po nekim od ovih teorija mozak se čak posmatra kao kompjuter gde se analogije koje se ovde nalaze koriste da bi se bolje razumelo učenje kod čoveka. Read more…
Poslednji komentari