Archive for the Category » linux «

Sunday, August 04th, 2013 | Author:

I had a power outage affect my server’s large md RAID array. Rather than let the server as a whole be down while waiting for it to complete an fsck, I had it boot without the large array so I could run the fsck manually.

Men, when running it manually I realised I had no way of knowing how far it was and how long it would take to complete. This is especially problematic with such a large array. With a little searching I found the tip of adding the -C parameter when calling fsck. I couldn’t find this in the documentation however: fsckhelp showed no such option.

The option turns out to be ext4-specific, and thus shows a perfectly functional progress bar with a percentage indicator. To find the information, instead offsckhelp” eller “man fsck”, you have to inputfsck.ext4help” eller “man fsck.ext4”. 🙂

Dele
Sunday, August 04th, 2013 | Author:

Historikk

Mye hadde forandret seg siden sist jeg nevnte min personlige server – den har vokst i store sprang (den har nå en 7TB md RAID6) og det hadde nylig blitt ombygd med Ubuntu Server.

Arch var aldri en feil. Arch Linux hadde allerede lært meg så mye om Linux (og vil fortsette å gjøre det på min andre stasjonære). Men Arch krever definitivt mer tid og oppmerksomhet enn jeg ønsker å bruke på en server. Ideelt sett ville jeg foretrekker å være i stand til å glemme server for en stund før en påminnelse email sier “um … Det er et par oppdateringer du bør se på, buddy.”

Plass er ikke gratis – og det er heller ikke plass

Muligheten til å migrere til Ubuntu var det faktum at jeg hadde kjørt ut av SATA porter, portene som kreves for å koble harddisker til resten av maskinen – at 7TB RAID array bruker mye av porter! Jeg hadde selv gitt bort mitt svært gamle 200 GB harddisk som det tok opp en av disse portene. Jeg advarer også om mottakeren at diskens SMART overvåking indikerte at det var upålitelig. Som en midlertidig løsning på mangelen på SATA-porter, Jeg hadde selv flyttet serverens OS til et sett med fire USB-pinner i en md RAID1. Crazy. Jeg vet. Jeg var ikke så glade om hastigheten. Jeg bestemte meg for å gå ut og kjøpe en ny pålitelig harddisk og en SATA utvidelseskort å gå med det.

Serverens primære Arch partition brukte omtrent 7 GB av disken. En stor del av det var en bytte fil, bufrede data og ellers diverse og unødvendige filer. Samlet den faktiske størrelsen av OS, herunder /hjem mappe, var bare om lag 2 GB. Dette fikk meg til å se inn i en super-rask SSD kjøre, tenker kanskje en mindre en kanskje ikke så dyrt. Det viste seg at det billigste ikke-SSD-stasjon jeg kunne finne faktisk koste mer enn en av disse forholdsvis små SSD. Yay for meg. 🙂

Valg? Woah?!

I valg av OS, Jeg hadde allerede besluttet det ville ikke være Arch. Ut av alle de andre populære distribusjoner, Jeg er mest kjent med Ubuntu og CentOS. Fedora var også en mulighet – men jeg hadde ikke seriøst ennå ikke vurdert det for en server. Ubuntu vant runden.

Den neste avgjørelsen jeg måtte gjøre skjedde ikke for meg før Ubiquity (Ubuntu installasjon wizard) spurte den av meg: Hvordan sette opp partisjoner.

Jeg var ny på å bruke SSD i Linux – Jeg er fullstendig klar over fallgruvene ved ikke å bruke dem riktig, hovedsakelig på grunn av risikoen for dårlig levetid hvis det brukes feil.

Jeg ønsker ikke å bruke en dedikert swap partisjon. Jeg har tenkt på å oppgradere serveren hovedkort / CPU / minne ikke så langt i fremtiden. Basert på at jeg bestemte meg for jeg vil sette swap i en swap fil på den eksisterende md RAID. Swap vil ikke være spesielt rask, men det eneste formålet vil være for den sjeldne anledningen når noe har gått galt, og minnet er ikke tilgjengelig.

Dette deretter forlatt meg å gi rotbane den fulle 60GB ut av en Intel 330 SSD. Jeg betraktet skille / hjem, men det virket bare litt meningsløst, gitt hvor lite ble brukt i det siste. Jeg først satt opp partisjonen med LVM – noe jeg nylig har gjort når jeg satt opp en Linux boks (virkelig, det er ingen unnskyldning for ikke å bruke LVM). Når det kom til den delen hvor jeg ville konfigurere filsystemet, Jeg klikket på drop-down og instinktivt valgt ext4. Så la jeg merke btrfs i samme liste. Henge på!!

Men en hva?

Btrfs (“smør-eff-ess”, “bedre eff-ess”, “bee-tree-eff-ess”, eller hva du har lyst på dagen) er et relativt nytt filsystem utviklet for å bringe Linux’ filsystem evner tilbake på sporet med dagens filsystem tech. Den eksisterende King-of-the-Hill filsystem, “ext” (gjeldende versjon kalt ext4) er ganske bra – men det er begrenset, fast i et gammelt paradigme (tenke på en helt ny F22 Raptor vs. en F4 Phantom med en halv-Jested forsøk på en ekvivalens oppgradering) og vil neppe kunne konkurrere på veldig lenge med nyere Enterprise filsystemer som Oracles ZFS. Btrfs har fortsatt en lang vei å gå, og regnes fortsatt eksperimentell (avhengig av hvem du spør, og hvilke funksjoner du trenger). Mange anser det å være stabil i grunnleggende bruk – men ingen kommer til å gi noen garantier. Og, Selvfølgelig, alle sier å lage og teste backup!

Mooooooo

Den mest grunnleggende forskjellen mellom ext og btrfs er at btrfs er en “Ku” eller “Kopi på Skriv” filsystem. Dette betyr at data er aldri bevisst overskrevet av en såkalt innvendige. Hvis du skriver en endring i en fil, btrfs vil skrive endringene til en ny plassering på fysiske medier, og vil oppdatere interne pekere til å referere til den nye plasseringen. Btrfs går et skritt videre ved at de interne pekere (referert til som metadata) er også Ku. Eldre versjoner av ext ville ha bare overskrevet data. Ext4 ville bruke en Journal for å sikre at korrupsjon ikke vil forekomme bør støpselet bli yanked ut på det mest inopportune øyeblikk. Tidsskriftet resulterer i et tilsvarende antall skritt som kreves for å oppdatere data. Med en SSD, den underliggende maskinvaren opererer en lignende ku prosessen uansett hva filsystemet du bruker. Dette er fordi SSD-disker ikke kan faktisk overskrive data – de har til å kopiere dataene (med endringene) til et nytt sted, og deretter slette den gamle blokken helt. En optimalisering i dette området er at en SSD ikke kan selv slette den gamle blokken, men heller rett og slett lage et notat til å slette blokken på et senere tidspunkt når ting ikke er så opptatt. Sluttresultatet er at SSD-disker passer veldig godt med en ku filsystem og ikke utføre så godt med ikke-ku filsystemer.

Å lage saker interessant, Ku i filsystemet går lett hånd i hånd med en funksjon kalt deduplisering. Dette tillater to (eller mer) identiske blokker av data som skal lagres ved hjelp av bare en enkelt kopi, sparer plass. Med ku, hvis en deduplicated filen endres, den separate twin vil ikke bli påvirket som den modifiserte filens data vil ha blitt skrevet til en annen fysisk blokk.

Ku i sin tur gjør snapshotting relativt enkelt å implementere. Når et øyeblikksbilde er gjort i systemet registrerer bare den nye snapshot som en duplisering av alle data og metadata i volum. Med ku, når det gjøres endringer, øyeblikksbildet data forblir intakt, og en konsekvent visning av filsystemet status på det tidspunkt øyeblikksbildet ble gjort kan opprettholdes.

En ny venn

Med ovenstående i tankene, særlig ettersom Ubuntu har gjort btrfs tilgjengelig som install-tid alternativet, Jeg skjønte det ville være et godt tidspunkt å dykke inn btrfs og utforske litt. 🙂

Part 2 kommer snart …

Dele
Thursday, November 12th, 2009 | Author:

If you ever find yourself updating a single application in Arch Linux (a very bad idea, btw) and it upgrades readline you might end up seeing an error along the lines of:
/bin/bash: error while loading shared libraries: libreadline.so.5: cannot open shared object file: No such file or directory
Hopefully you still have a bash prompt open and you haven’t closed them all. If you still can, immediately run the following:
pacman -S bash
else you won’t be able to run bash any more because bash would still be linking to the old version of readline.

Også, in future, don’t run
pacman -Sy application
(python in my case)
instead, run:
pacman -Syu
which will ensure that all applications are upgraded.

Personally, I think that bash should have had a dependency set saying that it required the old specific version of readline and the same for the new bash, requiring the new version of readline. Regardless, rather play it safe. 😉

Dele
Friday, September 11th, 2009 | Author:

Peace in the land of USB

Under a *nix operating system, having multiple partitions on a USB drive isn’t rocket science, it just works. I mitt tilfelle, my USB drive has two partitions because the first partition is a bootable Arch Linux installer.

I have Windows on a desktop at homemostly for gamingand many of my colleagues use it too. Since Windows doesn’t do very well with non-Windows partitions I figured I could create a FAT32 partition on the memory stick after the bootable Arch Linux partition. FAT32 is almost ubiquitous and is usable on every common desktop operating system in the world.

Bleh

Unfortunately it doesn’t work straight off the bat. Apparently, Microsoft in their infinite wisdom decided that memory sticks are supposed to have one (and only one) partition. In reality Windows finds the first partition and then ignores any others that happen to be set up:

Please Format

Err, no, I do not want you to format my Arch Linux installation partition

The trick to getting it working is to fool Windows into thinking the device is ikke a regular USB memory stick but perhaps a solid-state hard disk which happens to be connected via USB. Yes I know, this is seriously stupid that Windows behaves this way. A solid-state hard disk is just a whopping big (and fast) memory stick after all!

I found a few sources on how to do this however I still had to figure out some things on my own. Specifically, the guides I found either skipped some steps or didn’t provide enough information on where to download the driver package.

This procedure involves manually changing hardware drivers and installingnon-signeddriversnot intended for your hardware”. I know someone is going to break their system and blame me so I say now that I take no responsibility for any damage you may do to your Windows system as a result of this. Read that again. 😛

Instructions

remove the highlighted text

click for larger version

Download and unzip the driver, originally created by Hitachi, her. Open the cfadisk.inf file in notepad (or your favourite plaintext editor), and find the section labeled [cfadisk_device]. Remove the section highlighted on the right:

Minimize (don’t close) the editor and go to your desktop iconsright-click on My Computer and select Properties. Select the hardware tab and then select [Device Manager]:

System Properties

Find the device underDisk drives”, right-click your memory stick and select Properties:

Device Manager

Click the Details tab and in the dropdown box on that page, selectHardware Ids”. Click the first line in the list of Hardware IDs and press Ctrl+C to copy the name:

USB Hardware Ids

Don’t close this dialog, go back to notepad (which was minimised) and paste the hardware ID into where the previous content was removed.

Changes pasted into notepad

Save the file in notepad and go back to the device’s property dialog window. Click theDrivertab and click the [Update Driver…] button. In the windows that pop up, selectNo, not this time”; [Next] -> “Install from a list or a specific location (Advanced)”; [Next] -> “Don’t search. I will choose the driver to install.”; [Next] -> [Have Disk…].

Unsigned Drivers - Click Continue Anyway

Browse to the folder where you have saved the modified cfadisk.inf file. Click [OK]. You will find

there is a Hitachi Microdrive driver listed. Select this and click [Next]. When the warning

appears, click [Yes]. Another warning will pop up regarding a similar issue (these are theunsigned” og “not intended for your hardwarewarnings I mentioned earlier). Click [Continue Anyway]:

At this point I recommend closing all the dialog boxes related to the setup. Finally, remove and re-insert the memory stick into your USB port and you should find that the extra partitions on the stick are accessible. In the worst-case scenario, you might still need to partition the disk however the hard part is over. 🙂

Dele
Wednesday, August 26th, 2009 | Author:

If you’re using *nix and you’ve found this middle-click behaviour annoying, change Firefox‘s middlemouse.contentLoadURL about:config option to false.

Big thanks to Ayman Hourieh for the tip.

Dele