thumb|Når is smelter i et glass vann i et varmt rom, øker entropien. Dette eksemplet ble for første gang benyttet av Clausius i 1862.

Entropi ble definert av den tyske fysikeren Rudolf Clausius i 1864 for å beskrive kvantitativt hvordan varme kan omgjøres til nyttig arbeid. Navnet han ga denne størrelsen, lagde han ut fra gammelgresk ἐν (med, evne til) og τροπή (forandring) på samme måte som at ordet energi fra ἐν-ἔργον har med evne til å utføre arbeid. Dette begrepet gikk inn i hans "mekaniske varmeteori" som i dag bærer navnet termodynamikk hvor det spiller en fundamental rolle. Entropi er et ekstensivt, termodynamisk potensial som antar en bestemt verdi for hver likevektstilstand systemet befinner seg i. Den kan derfor også betraktes som en tilstandsvariabel selv om den ikke kan bli direkte målt i laboratoriet slik man kan med trykk og temperatur.

I denne sammenheng formulerte Clausius termodynamikkens andre hovedsetning som sier at i et isolert system kan entropien aldri avta. Den kan bare forbli konstant eller øke. I det første tilfellet sier man da at systemet er i termisk likevekt. Hva dette skyldes, var ikke klart for Clausius, men han mente at det kunne ha noe å gjøre med mekaniske omstillinger av de indre bestanddelene man mente materien bestod av uten at man på den tiden hadde noen atomteori.

Det var først Ludwig Boltzmann noen få år senere som ga en forklaring av fysikken som gir opphav til entropi, nettopp basert på en atomistisk beskrivelse av materien i systemet. Han viste at jo større uorden man har i systemet, desto større er dets entropi. Derfor henger entropiens økning direkte sammen med tendensen man ser i naturen til at mange prosesser bare går én vei. En isbit i et glass vann smelter ved at molekylene i isen overføres til vannet. Man ser aldri den omvendte prosessen at noen vannmolekyler spontant samler seg sammen til et stykke is. Ved smeltingen skapes det mer uorden mellom vannmolekylene som tidligere var delvis samlet i isbiten. Entropi kan derfor tilskrives en samling av et stort antall partikler. Man kan rent praktisk ikke lenger følge hver partikkel i dens bevegelse, men må nøye seg med en statistisk beskrivelse av alle partiklene. Det var i disse undersøkelsene at Boltzmann la grunnlaget for moderne, statistisk mekanikk som ble videreutviklet av Josiah Willard Gibbs. Først med den senere innføring av kvantemekanikken kan man si at entropi endelig ble fullt forstått.

Anvendelser i dag Begrepet ble opprinnelig innført for å bedre forståelsen av omsetning av energi, og spesielt for bruk av varmeenergi i dampmaskiner til å utføre arbeid, men i tillegg til dette rent praktiske aspektet, har entropibegrepet fått en utbredelse langt utover slike praktiske anvendelser. Dette skyldes i stor grad de statistiske ideene fra Boltzmann og at termodynamikken er så generell at den også kommer til anvendelse i systemer som må beskrives kvantemekanisk. Dette ble spesielt klart etter at Planck utviklet sin teori for varmestrålingen som i utgangspunktet var basert på rene entropibetraktninger. I kjemi ble entropi av stor betydning for å forstå forskjellige, kjemiske reaksjoner og likevekter. Fra begynnelsen av var entropi en sentral størrelse innen statistisk fysikk og dens beskrivelse av materien omkring oss i alle faser. I dag benyttes begrepet i astrofysikk og utforskningen av stjerner og deres kollaps. I nyere tid har Stephen Hawking vist at også sorte hull kan tilordnes en entropi og derfor også en temperatur. Hele Universet kan betraktes som et isolert system med jevnt økende entropi og spiller dermed også en sentral rolle i moderne kosmologi.

Entropi i dag benyttes innen tre områder; termodynamikk, statistisk mekanikk og informasjonsteori. I termodynamikken betyr entropi fordeling og likevekt over tid inntil ulikhetene er utjevnet. For eksempel vil et livløst objekt som er varmere eller kaldere enn omgivelsene etter hvert miste eller absorbere varme helt til objekt og omgivelser har samme temperatur, eller en saltløsning som tømmes i en beholder med ferskvann vil fordele seg i vannet inntil konsentrasjonen er den samme overalt.

I statistisk mekanikk handler det om sannsynlighet i forhold til antall mulige utfall. En mynt som knipses har to mulige utfall; mynt eller krone, og dermed 50% sjanse for å ende opp som det ene eller andre. Gjøres dette et fåtall ganger er det mulig å oppnå samme resultat hver gang. Men sannsynligheten blir mindre desto oftere det knipses. Jo flere forsøk, jo mer vil summen av resultatene nærme seg den statistiske sannsynligheten og dermed den maksimale entropi. Samme tendens gjelder om en terning kastes tilstrekkelig mange ganger, bare at fordelingen her er 1/6 i stedet for 1/2. Blant de minste bestanddelene innen kjemi (atomer og molekyler) vil antallet i en væske være så høyt at maks entropi så å si er oppnådd, og det oppstår lovmessighet; sannsynligheten for at summen av alle atomenes og molekylenes mulige utfall på noe som helst tidspunkt skal avvike fra det forventede er så mikroskopisk at den i praksis ligger på null.

I informasjonsteori er entropi det samme som uforutsigbarhet. En linje bestående av repetisjon av et eneste tegn etter hverandre vil være fullstendig forutsigbart, og entropi er dermed fraværende. En tekst som består av kjente ord og overholder de grammatiske regler vil være mer uforutsigbart, og med det mer entropisk, selv om det i stor grad er mulig å gjette seg til hvilket tegn som er det neste ut ifra informasjonen man har tilegnet seg fra de foregående ordene og setningene. Inneholder teksten skrivefeil og brudd på grammatikkreglene øker entropien mens forutsigbarheten minker, og sannsynligheten for tap av informasjon øker i takt med antall feil. En linje satt tilfeldig sammen av en samling helt tilfeldige tegn har ingen informasjon å vise til, forutsigbarheten er null og entropien maksimal.Survival of the Likeliest? - PLOS

Clausius og termodynamikk

Termodynamikkens andre hovedsetning om hvordan entropien S  for et system forandres i en prosess, ble formulert matematisk av Rudolf Clausius. Den kan skrives som ulikheten

som bærer hans navn. Her er ΔQ  en liten varmemengde om overføres til systemet fra omgivelsene med absolutt temperatur T. Den gir en økning ΔS  i entropien til systemet. Måleenheten for entropi i SI-enheter er derfor J/K.

I nesten alle sammenhenger snakker man som her om et system og dets omgivelser som er i termisk kontakt, det vil si de kan utveksle varme med hverandre. Til sammen definerer disse to kategoriene et univers. Kun når et system er termisk isolert fra omgivelsene, kan vi betrakte det alene for seg selv. Da vil per definisjon ΔQ = 0 og systemets entropi vil alltid øke eller forbli konstant, ΔS ≥ 0. Dette vil da også gjelde for vårt eget, fysiske univers.R. Müller, Thermodynamik: Vom Tautropfen zum Solarkraftwerk, Walter de Gruyther GmbH, Berlin (2014). ISBN 978-3-11-030198-4.

Beregning av entropi er mulig fra Clausius' ulikhet i grensen hvor den varmemengden ΔQ er så liten og blir så forsiktig tilført til systemet at det hele tiden er i likevekt og med samme temperatur. Man sier da at varmen er tilført reversibelt. I denne grensen er

For å gjennomføre beregningen behøver man i tillegg en tilstandsligning for systemet samt at termodynamikkens første hovedsetning må oppfylles.

Smelting av is

Et klassisk eksempel på økende entropi i et lite univers er is som smelter i et glass vann. Her er systemet glasset med is og vann i termisk likevekt ved konstante temperatur 0 °C (273 K). Omgivelsene antar vi er rommet omkring med temperatur 20 °C (293 K). I dette universet vil litt varmeenergi ΔQ strømme fra de varme omgivelsene inn i glasset som forblir ved 0 °C så lenge det er is igjen i det. Dette er smeltetemperaturen for is og ΔQ er gitt ved smeltevarmen ΔH is = 334 J/g. Dermed vil entropien til systemet øke med ΔQ /273, mens omgivelsene taper entropien ΔQ /293. Netto-økningen av entropien i dette lille universet er dermed

Sålenge smeltingen foregår, forandres ikke temperaturen til systemet. Derimot vil temperaturen til omgivelsen avta bitte litt, men kan likevel helt neglisjeres da omgivelsene nesten alltid kan betraktes å være svært store.P.A. Rock, Chemical Thermodynamics, University Science Books, Oxford (1983). ISBN 0-19-855712-5.

Etter at smeltingen er over, øker temperaturen i systemet langsomt til vannet i glasset har fått samme temperatur som omgivelsene. Ser vi bort fra volumforandringer under oppvarmingen, vil tilført varme til glasset med vann være ΔQ = CV ΔT hvor CV er dets spesifikke varmekapasitet. Dette medfører en forandring i entropien til dette systemet med ΔS = CV ΔT/T som kan integreres opp til å gi

hvor T0 = 273 K er begynnelsestemperaturen. Entropien til omgivelsene vil nå også avta, men igjen mindre enn økningen av entropien til det oppvarmete glasset med vann.G.W. Castellan, Physical Chemistry, Addison-Wesley Publishing Company, New York (1971). ISBN 0-20-110386-9.

Ideell gass

En ideell gass med temperatur T og bestående av n mol partikler i et volum V har et trykk P gitt ved tilstandsligningen der R er gasskonstanten. For en liten, reversibel volumforandring i gassen vil 1. hovedsetning på differensiell form forbinde de resulterende forandringene i indre energi dU og entropi dS. Nå er hvor varmekapasiteten for n mol ideell gass er Dermed er slik at direkte integrasjon gir

hvor T0 og V0 er vilkårlige referanseverdier. De vil falle bort når vi regner ut entropidifferanser som er det som kan måles.

Dette resultatet for entropien for en ideell gass avhenger kun av tilstanden til gassen gitt ved temperaturen T og volumet V når den er i termisk likevekt. Hvis gassen befinner seg opprinnelig i venstre halvdel av en beholder som vist i figuren og skilleveggen plutselig fjernes, vil den spre seg irreversibelt over hele det nye volumet som er dobbelt så stort. Når den er kommet i likevekt igjen, er dermed dens entropi økt med da temperaturen i gassen er uforandret. Dette skyldes at gassen er antatt ideell og det er derfor ingen vekselvirkninger mellom gasspartiklene. Omgivelsene forblir også dermed ved samme temperatur og entropiforandringen for hele universet er

Det er også mulig å komme frem til samme slutt-tilstand for gassen ved en reversibel prosess. Det kan gjøres ved at den midtre skilleveggen i gassbeholderen kan skli friksjonsløst til venstre, men blir holdt tilbake ved at den påtrykkes en motkraft som balanserer gasstrykket P  hele tiden. Dermed sklir den langsomt slik at gassen hele tiden er i likevekt. Ved hver liten volumforandring ΔV, utfører gassen dermed et arbeid på veggen. Denne energien kommer fra varmen som strømmer fra omgivelsene og inn i gassen. Dermed avtar entropien til omgivelsene like mye som entropien til gassen øker. På den måten blir derfor den totale entropiforandring nå

Adiabatisk ekspansjon

Ved denne reversible utvidelsen kunne varme strømme inn i gassen fra omgivelsene. Hvis derimot veggene i gassbeholderen er isolerte slik at de ikke slipper varme gjennom, må den indre energien U til gassen avta for å kompensere arbeidet den utfører mot skilleveggen som langsomt presses mot høyre i beholdere. Da blir den differensielle entropiforandringen til gassen Ved direkte integrasjon finnes da

Dette kalles en reversibel, adiabatisk ekspansjon. Etterhvert som volumet øker, avtar gassens temperatur fordi den må gjøre et arbeid mot omgivelsene. Men ingen varmeoverføring har funnet sted og den totale entropiforandring ΔStot er igjen lik null. Slike adiabatiske prosesser er av stor betydning i meteorologien ved dannelse av skyer og forandringer ved været.