pienoiskuva|oikea|Harhan ja varianssin tyypillinen käyttäytyminen mallin kompleksisuuden funktiona klassisella alueella
Harhan ja varianssin välinen kompromissi kuvaa tilastotieteessä ja koneoppimisessa mallin kompleksisuuden, sen antamien ennusteiden ja sen yleistettävyyden välistä suhdetta. Yleistettynä, mitä enemmän mallissa on sovitettavia parametreja, sitä joustavampi malli on ja sitä paremmin malli on sovitettavissa opetusdataan. Tällöin mallin harhaisuus on pienempi. Toisaalta mitä joustavampi malli on, sitä suurempi vaihtelu uudella opetusdatan otannalla tehdyllä sovituksella tyypillisesti on. Tällöin sovitettujen parametrien varianssi on suurempi. Kompromissi siis syntyy siitä, että tyypillisesti ei samanaikaisesti pystytä minimoimaan sekä mallin harhaisuutta että sovitettujen parametrien varianssia.
Vaikka harhan ja varianssin välinen kompromissi pätee yleisesti niin kutsulla klassisella alueella, jossa mallin vapaiden parametrien määrä on pienempi kuin datapisteiden määrä opetusdatassa, osoittautuu, että niin kutsulla yliparametrisoidulla alueella, jossa parametreja on enemmän kuin datapisteitä, on mahdollista samanaikaisesti minimoida sekä mallin harhaisuus että sovitettujen parametrien varianssi. Tätä ilmiötä kutsutaan kaksoislaskuilmiöksi.
Lähteet
Luokka:Koneoppiminen Luokka:Tilastotiede Luokka:Data-analyysi