Az 1969-es születésű Polly Jane Harvey már túl van szinte mindenen: az ifjúkori rocklázadáson és a női imidzs forradalmasításán (Dry –1992, Rid Of Me –1993), többszöri mainstream áttörésen (To Bring You My Love – 1995, Stories From The City, Stories From The Sea – 2000), egy viharos románcon Nick Cave-vel (ami Cave zongorás The Boatman's Callján, míg nála az 1998-ra elkészült Is This Desire? albumon köszönt vissza), számos kritikai elismerésen (például a női előadók által nem túl gyakran elnyert Mercury Prize-on), így ebben a stádiumban már bármit megtehet – és meg is teszi. Bár Polly a világ számára jobbára öntörvényű gitáros amazonként volt ismert, aki magabiztos és kaján vigyorral szólította fel a férfiakat, hogy nyalogassák a lábát, most felszínre tört a benne lakozó számos én közül egy újabb: a „hihetetlenül csendes és nyugodt” (hogy magát az énekesnőt idézzük). 
 
Az új anyag megalkotásához Polly a nagysikerű 1995-ös To Bring You My Love két fő hangzásfelelősét vette újra maga mellé: a régi harcostárs és mentor, a multiinstrumentalista John Parish mellett a sztárproducer Flood (U2, DM, NIN, Smashing Pumpkins stb.) is segédkezett a felvételeknél. Az albumon közreműködött még a Captain Beefheart zenekarából, illetve a Pere Ubu és a Pixies háza tájáról ismert Eric Drew Feldman billentyűs is (aki az 1995-ös turné óta gyakorta fel-felbukkan PJ Harvey oldalán), továbbá új zenésztársként Jim White, az ausztrál Dirty Three dobosa. Akik a producerek neve alapján a milliós sikerű 1995-ös anyaghoz hasonló, színes és szenvedélyes produkcióra számítanak, csalódni fognak: a White Chalk a legborzongatóbb, legkísértetiesebb dolog az énekesnő életművében az 1998-as Is This Desire album, sőt a John Parish-sel közös kiadványként jegyzett Dance Hall At Louse Point című 1996-os kísérleti lemez óta (miközben mind az egyiktől, mind a másiktól radikálisan eltér hangzásában). 
 
A művésznő régebben is gyakran hangsúlyozta, hogy mindig is próbálja az önismétlés csapdáját elkerülni és igyekszik minden új albummal a korábbiaktól eltérőt alkotni, azonban a White Chalk esetében ez a váltás tényleg radikális. A borítón kísérteties fehér ruhát viselő, porcelánbabára hasonlító Polly az elektromos gitárját zongorára cserélte (amin lényegében csak mostanában tanult meg játszani!), és szokatlanul magas hangon kezdett énekelni. Dalai törékenyek, éteriek lettek, a lemez elejétől a végéig fura lebegő hangulatot teremtenek, a gyakran alig kivehető magasságokban járó vokálok pedig már-már Sigur Rós-szerű atmoszférát. A zongorás alapok mellé időnként csatlakoznak csak be finom dobok, némi hárfa vagy egyéb húros hangszerek, a hangképet pedig visszhangzó vokálok teszik helyenként még inkább baljóssá és hátborzongatóvá. A bizarr összhatást tovább fokozza, hogy a dalok gyakran hirtelen érnek véget, így az album igencsak rövid: 11 szám 34 percben – az énekesnő eddigi legrövidebb nagylemeze.  
 
A White Chalk albumon (melynek krétafehérséget, gyermekkort és tisztaságot asszociáló címe konkrétan PJ Harvey szülőföldjének, Dorsetnek a tengerparti mészkőszikláira utal) a dalszövegek is szokatlanul törékennyé és érzékennyé váltak. Polly a Broken Harpban bocsánatért esedezik („kérlek ne hányd a szememre / mennyire üres lett az életem”), a To Talk To You-ban halott nagyanyjához fohászkodik („mennyire hiányzol / a föld alatt / bárcsak veled lehetnék / hogy beszéljek veled… / annyira magányos vagyok / egész életemben / ha lefeküdnék s földre / akkor hallanád, amit mondok?”), a Grow Grow Grow-ban pedig kislányként rimánkodik („taníts meg, mami, hogyan kell felnőni / hogyan kell valakinek tetszeni”). Több számban – például a beharangozó kislemeznek választott When Under Etherben és az akusztikus gitáros címadó White Chalkban – esik utalás abortuszra, egy meg nem született gyermekre, visszatérő téma a veszteség, az elidegenedés és a magány („amint egyedül maradok, az ördög besétál a lelkembe” – kezdi Polly a lemezt, míg a Silence-ben így énekel: „elszabadultam a családomtól / megszabadultam a munkámtól / szabaddá tettem magam… / és egyedül maradtam”), a Before Departure pedig búcsú az élettől. Ezek a dalok éteri hangzásuk ellenére súlyos űrt hagynak maguk után, miután a lemez lejárt.