77 terabyte forskningsdata er tapt for alltid

[Gjest Marius B. Jørgenrud]

77 terabyte forskningsdata er tapt for alltid

[Roger Moore]

Her håper jeg på en detaljert forklaring på hvor ting sviktet. Slike feil skjer som regel fordi flere sikkerhetsbarrrierer svikter. Sier en og at ingenting av disse dataene fantes off site på tape? 

Endret 5. januar 2022 av Roger Moore

[Simen1]

Sitat

Universitetet i Kyoto i Japan har tapt om lag 77 terabyte med forskningsdata, etter at en sikkerhetskopi ble ødelagt en uke før jul.

Et ryddescript, som egentlig skulle fjerne gamle loggfiler, kom da i skade for å slette deler av backupen til universitetets Cray/HPE-baserte superdatamaskin.

Hva var egentlig problemet? De kan jo bare kopiere de originale filene til en ny/annen backup og så burde det jo være i orden?

Spoiler

(spiller litt dum for å se hvilke svar som kommer)

 

[pergh]

Jaja. Håper de deler historien og legger den på haugen så vi kan lære noe og få oss (nok) en god latter.

http://www.yak.net/carmen/unix_horror.html

Mvh

Per Gunnar Hansø

[mobile999]

Simen1 skrev (2 timer siden):

Hva var egentlig problemet? De kan jo bare kopiere de originale filene til en ny/annen backup og så burde det jo være i orden?

  Skjul innhold

(spiller litt dum for å se hvilke svar som kommer)

 

Artikkelen er sikkert lost in translation.

[3FKY9EYR]

Normalt mister en bare data hvis du nuller innholdet av filene før de slettes, så dette høres litt rart ut. Høres ut som om de har gjort noe annet dumt utover rm/del av filer.

[OPV]

Dette kan dessverre skje overalt. Når folk med høye nok rettigheter gjør tabber, er det ikke grenser for hvor galt det kan gå.

Jeg ser med gru fram til en tilsvarende feil hos Apple, Azure eller Amazon!

Å tro at man har backup offsite på et annet fysisk medium er vel optimistisk. Det går rett og slett ikke. Det er alt for mye data.

[OPV]

Se på skissen på https://www.bleepingcomputer.com/news/security/university-loses-77tb-of-research-data-due-to-backup-error/ så forklarer den sannsynligvis hvorfor det ikke kunne reddes. All lagring for tre Cray-systemer administreres av et felles datalager.

[Fluor1]

Lever du i fortiden? I dag brukes hovedsakelig disk backuplagring speilet til flere datasenter. Dersom noen som i dette tilfellet gjør en programmeringsfeil kan alt gå galt. Jeg vil påpeke at et backup system ikke nødvendigvis er et arkiv system.

[Simen1]

OPV skrev (11 timer siden):

Se på skissen på https://www.bleepingcomputer.com/news/security/university-loses-77tb-of-research-data-due-to-backup-error/ så forklarer den sannsynligvis hvorfor det ikke kunne reddes. All lagring for tre Cray-systemer administreres av et felles datalager.

Det ser ut som de slettet arkivet og at slettingen ble automatisk synkronisert med "backupen". Det er jo en fantastisk utrygg måte å ta "backup" på, som er heller tvilsomt om det kan kalles backup. Det er vel heller en form for forsinket speiling i Raid1, som ikke er en form for backup.

Backup er en sikkerhetskopi som kan rulles tilbake dersom det skjer noe med originalen. Alternativt kan man sikkerhetskopiere filene på nytt dersom det skulle skje noe med sikkerhetskopien. Det universitetet i Tokyo har gjort her er å ikke ha noen sikkerhetskopi, sånn jeg forstår det. Sletter man data så forsvinner de fra begge stedene de er lagret.

[lars4012]

16 hours ago, OPV said:

Å tro at man har backup offsite på et annet fysisk medium er vel optimistisk. Det går rett og slett ikke. Det er alt for mye data.

77 TB er ikke all verdens med data. Det selges 16 TB disker for rett over 5000 kr. 5 slike ville vært tilstrekkelig.

[Snowleopard]

lars4012 skrev (54 minutter siden):

77 TB er ikke all verdens med data. Det selges 16 TB disker for rett over 5000 kr. 5 slike ville vært tilstrekkelig.

Skal man fylle kravene til reell backup, så spørs det om det er store forskjeller på å ha dette på harddisker vs raidløsninger med SSD-lagring og tape. Forskjellen er selvsagt at ved bruk av tape og HD'er, kan lagre disse fysisk frakoblet, og dermed bør det være mindre sjanse for å slette dette samtidig som man tar lagringen på serverne in-house og i skyen/eksternt datalager.

Nå har det selvsagt litt å si hvor mye av dataene man rekker å kopiere på slike medium, uten at tid blir en faktor. Det er vel derfor man hovedsaklig går over til SSD-lagring på ting man trenger å skrive med en viss frekvens. På den annen side, mellomlagrer man på en SSD-basert løsning, så betyr det mindre om skriving til tradisjonelle harddisker tar en dag eller to, om de bare gjør dette hver måned, og gjør det fra SSD-kopien, og dermed ikke påvirker ytelsen i driftsmiljøet.

NB! For raskere fart, er det en fordel å fordele skrivingen på flere disker i en raidløsning, da en singel 4 TB disk i seg selv kan ta fort 12 timer å klone. Så regn med at man heller baserer dette på SSD-raids, så lenge dataene ikke skal lagres over lang tid (1 år +).

https://forums.tomshardware.com/threads/how-long-does-it-take-to-copy-4tb.2228391/