Ladislav Mrnka, A01222
b-lmrnka@microsoft.com

Storage area networks (SAN)

Co je SAN?

Nejmodernějším způsobem jak uchovávat data ve velkých počítačových sítích je Storage area network. Jedná se o oddělenou full-duplexní síť zálohovacích zařízení, která jsou propojena navzájem mezi sebou a serverem nebo clusterem serverů, které představují přístupový bod do SAN. V některých případech může být SAN přímo připojena do další sítě, např. do WAN sítě. SAN využívá technologii switchů (přepínání), obecně nazývanou SAN fabric - infrastruktůra, která zajišťuje spojení každého serveru s každým zálohovacím zařízením.

Důvod pro SAN

SAN splňují mnoho aktuálních IT požadavků. Jsou připraveny pro exponenciální růst diskové kapacity. Řeší problém co nejefektivnějšího nasazení zálohovacích zařízení a jejich centrální správu spolu s co největší dostupností dat. Tyto požadavky umožňuje splnit vysokorychlostní oddělená síť, která centralizuje včechny datové zdroje do jednoho velkého virtuálního disku. Tento centralizovaný virtuální disk musí poskytovat stejnou nebo větší výkonnost než disky přímo připojené do serveru (DAS) a musí být plně transparentní pro hostitelské operační systémy.

Technologie

Dominantní technologií v SAN je Fibre Channel Protocol (FCP), který definuje jak používat SCSI příkazy na oddělené Fibre Channel (FC) síti. Každý server, který je připojený do SAN fabric, musí obsahovat Fibre Channel Host Bus Adapter (HBA), který nahrazuje lokální SCSI řadič. Přepínaná FC SAN fabric se nazývá FC-SW2.

Jelikož technologie FC je finančně velmi nákladná, lze vybudovat SAN i na TCP/IP síti. Toto řešení využívá protokol Internet Small Computer Systems Interface (iSCSI), který definuje jak posílat SCSI příkazy přes TCP/IP síť. Použití iSCSI protokolu vede k nižší ceně a snadnější výstavbě sítě - používá se Gigabitový Ethernet, což umožňuje použít stávající hardware, přepínače a neni nutné přeškolovat administrátory. Výsledek je levnější alternativa SAN, která stále využívá mnoho jejích výhod.

Předpokládá se, že SAN bude nasazena v nejnáročnějších počítačových sítích, kde je jsou otázky maximální výkonnosti sítě a přístup 24x365 hlavními faktory. S tím musí počítat i výrobci SAN diskových polí. Proto jsou disková pole konstruována tak, aby všechny klíčové části byly zdvojeny a mohly být měněny bez vypnutí či restartování zařízení. Spolehlivost je dále zvyšována zajišťováním datové integrity při přenosu dat. Využívají se metody jako CRC pro přenos dat přes SAN fabric (CRC je kontrolován na každém přepínačí, kterým data procházejí), parita pro přenos dat po lokálních sběrnicích a ECC pro buffery. Dále se používají různé úrovně RAIDu, lokální i vzdálené zrcadlení dat a backup na pásky. V high-end systémech se navíc požaduje redundantní čtení a zápis. => Zápis na disk může být proveden teprve poté, co přijdou dvakrát stejná data. Stejně tak odeslání dat může být provedeno teprve poté, co RAID subsystém dvakrát načte stejná data. Tento požadavek samozřejmě zvyšuje výpočetní a paměťové nároky řídící jednotky diskového pole.

Práce s daty

Souborový systém ovládají servery, které tvoří vstupní bod do SAN. Tyto servery zasílaji SCSI příkazy, které jsou mapovány jako Logical Unit Number (LUN). LUN jsou v kontrolní jednotce diskového pole přeloženy na stopu a sektor. Aktuální disk tak zůstává před serverem skrytý. Data je tedy možné identifikovat podle čísla bloku, přenášejí se přímo jednotlivé diskové bloky.

Pro maximální výkonost při operacích čtení a zápisu na disk, obsahují SAN zařízení vyrovnávací paměť - cache. Intel uvádí, že největší výkon je dosažen, pokud se velikost cache paměti rovná 0,5 - 1% kapacity diskového pole. Ve skutečnosti se taková velikost cache nepoužívá. Nejlepší SAN diskové pole od Dellu může mít diskovou kapacitu téměř 80TB, jeho cache má velikost 8GB, tj. 0,01% diskové kapacity.

FC disková pole mohou dosahovat ohromných kapacit. Narozdíl od SCSI, které umožňuje připojení 15ti zařízení, umožňuje Fibre Channel Arbitrated Loop (FC-AL) připojit až 126 zařízení. Navíc počet připojených SAN zařízení do SAN fabric (FC-SW2) není limitován. Vzdálenost mezi dvěmi SCSI zařízeními může být maximálně 1,5 m (dohromady maximálně 12 m), mezi dvěmi FC zařízeními to může být až 30 m při použití měděného kabelu nebo 10 km při použití optického kabelu. Technologie FC-AL přímo podporuje hot swap.

Sdílení zařízení - Storage sharing

SAN pouze poskytují diskový prostor. Všechny operace spojené se správou souborů, bezpečností, přístupovými právy, uzamykáním souborů, atd. se provádějí na serverech, které slouží jako vstupní bod do SAN. Vstupních bodů bývá obvykle více. Proto je naprosto běžné, že na SAN zařízení má vyhrazen diskový prostor více serverů, i když nesdílejí uložená data. V praxi to znamená, že jedno diskové pole můžou sdílet servery z naprosto odlišných částí LAN sítě, které běží na rozdílných platformách či operačních systémech a ukládají svá data v různých formátech. Tím je zaručena maximální efektivita při využívání diskového prostoru.

Srovnání přenosových rychlostí

V současné době se v DAS zařízení používá Ultra320 SCSI, které má nominální přenosovou rychlost 320 Mb/s, vyvíjí se Ultra640 SCSI, jehož nominální přenosová rychlost bude 640 Mb/s. Předpokládá se, že tato rychlost již nepude u SCSI překonat. Naproti tomu v SAN se používá Fibre Channel, jehož současná přenosová rychlost je 2 Gb/s (FC-SW2) nebo Gigabitový Ethernet (iSCSI). Jak Fibre Channel tak Gigabitový Ethernet používají kódování 8b/10b. Nominální přenosová rychlost pro FC je tedy 1600 Mb/s a pro Gigabitový Ethernet 800 Mb/s. Full duplex tedy dává přenosovou rychlost 400 MB/s pro FC a 200 MB/s pro Gigabitový Ethernet. Tyto rychlosti se budou dále zvyšovat, protože již existuje Fibre Channel s přenosouvou rychlostí 4 a 8 Gb/s. SAN pracující s iSCSI protokolem v budoucnu přejde z Gigabitového Ethernetu na 10 Gigabitový Ethernet. FC sítě mají navíc velmi malé zpoždění 10 - 30 mikrosekund.


Schéma zapojení SAN
Topologie SAN

Hardware

Jelikož SAN je samostatná síť, jsou požadavky na hardware mnohem větší než v případě NAS nebo DAS. Nestačí pořídít pouze SAN disková pole, ale je třeba vytvořit SAN fabric, které se skládá z přepínačů a přenosového media - nejčastěji optické vlákno nebo kroucená dvoulinka. Servery které mají sloužit jako přístupové body do SAN musí obsahovat HBA. V případě požadavku na vzdálený backup přes WAN síť je také nutné pořídit FCIP bránu.

Využitá rozhraní a protokoly

Základem SAN je FCP protokol a FC. Levnější variantou je iSCSI, který funguje na Gigabitovém Ethernetu. Pro komunikaci přes WAN se používá protokol FCIP. Disková pole používají Ultra320 SCSI nebo FC-AL.

Software

Software je dodáván s konkrétním zařízením. Řídící jednotka SAN diskového pole může pracovat na operačním systému Windows nebo Unix, používají se i operační systémy reálného času.

Backup

Lokální backup se provádí pouze v rámci SAN a nezatěžuje připojené LAN sítě. Obvykle se provádí na pásková zařízení, která jsou součástí SAN. V případě vzdáleného backupu jsou data posílána do FCIP brány, která vhodně zabalí FC rámce do rámců příslušné TCP/IP sítě - např. Ethernet, které jsou poslány skrz WAN do jiné SAN, kde FCIP brána rámce opět rozbalí. Narozdíl od NAS a DAS, kde se backup provádí po celých souborech se u SAN provádí backup po diskových blocích.

Výhody SAN

  • Oddělení od LAN
  • Provozní náklady
  • Spolehlivost
  • Centralizovanost
  • Backup
  • Rychlost
  • Rozšiřitelnost - kapacitu lze libovolně zvyšovat

Nevýhody SAN

  • Vysoká pořizovací cena
  • Nutnost zaškolení administrátorů
  • Souborový systém je ovládán servery, které tvoří vstupní bod do SAN -> sdílení dat mezi různými operačními systémy a platformamy není automaticky podporováno.

Zhodnocení

SAN poskytuje v současné době nejlepší možnosti pro ukládání dat. Jedná se o řešení které plně vyhovuje kritériu přístup 24x365. Řešení založené na FC technologii si mohou dovolit pouze velké společnosti a instituce. Řešení využívající Gigabitový Ethernet je poněkud dostupnější, při počáteční investici se však stále jedná o poměrně nákladné řešení. To je kompenzováno jeho rozšiřitelností a předpokladem nižších investic do budoucna.

Příklad SAN

Na následujícím obrázku je znázorněn příklad přepínané SAN, která využívá dva Fibre Channel switche k připojení clusteru serverů a záložních zařízení - disková pole a pásková zařízení. Síť dále obsahuje FCIP bránu do WAN pro vzdálený backup a zotavení po výpadku. Tuto síť lze vybudovat i pro levnější iSCSI protokol.


Ukázka SAN
Ukázka SAN

Příklad diskového pole pro SAN

Na následujícím obrázku je schéma diskového pole, které nabízí společnost Intel.


Diskové pole od společnosti Intel
Diskové pole od společnosti Intel

Channel Adapter

Channel Adapter připojuje diskové pole do SAN fabric. Jedná se o zařízení které je velmi podobné HBA na straně serveru. Zařízení obsahuje 600MHz I/O procesor, až 1GB DDR RAM a dvou portový FC řadič (v případě FC-SW2) nebo dovu portový Gigabit Ethernet řadič (v případě iSCSI), který je spojen s procesorem 133MHz PCI-X sběrnicí. Diskové pole běžně obsahuje až 16 channel adapterů.

Non-blocking Switched Backplane

Channel adaptery potřebují efektivně zasílat požadavky do řídící jednotky. InfiniBand architecture (IBA) zajišťuje velmi výkonné propojení Channel adapteru s řídící jednotkou. IBA dále umožňuje volit řídící jednotku, která bude použita pro zpracování požadavku, což je využíváno při výpadku jedné řídící jednotky.

Storage Array Controler

Řídící jednotka zajišťuje datovou integritu a cachingem maskuje zpoždění disků, které je způsobeno přístupovou dobou k datům na disku, obsluhuje veškerou funkcionalitu diskového pole. Tato jednotka obsahuje dva procesory Intel Xeon s 512 KB L2 cache a technologií Hyper Threading (HT), až 16 GB 200MHz ECC DDR RAM, všechna důležitá komunikační rozhraní jsou zdvojena a připojena přes PCI-X sběrnici.

Disk Adapter

Diskový adaptér řídí diskové pole, maximalizuje dostupnost dat a provádí operace čtení a zápisu. Obsahuje RAID řadič, který podporuje Ultra SCSI nebo FC-AL. Zařízení obsahuje dvě disková pole, která obsahují stejná data - zrcadlo. Je tak zajištěna dostupnost dat při havarii jendoho z nich. Tyto pole podporují hot swap pro jednotlivé disky. Diskový adaptér je řízen 600MHz I/O procesorem s až 1GB DDR RAM, komunikační rozhraní jsou připojena přes PCI-X sběrnici.

Stránka byla testována v prohlížečích MS Internet Explorer 6.0, MyIE a Mozilla Firefox
Stránka je navržena pro rozlišení 1280x960 a vyšší
Poslední úprava : 7.11.2004