SQL Server Integration Services

Az előadások a következő témára: "SQL Server Integration Services"— Előadás másolata:

1 SQL Server Integration Services
Adattárházak betöltése és más adatmozgatások Hangyál Zoltán Oktató NetAcademia

2 SQL Server Integration Services (SSIS)
SQL Server komponens Data Transformation Services (DTS) utódja Arra használható, hogy adatokat mozgassunk vagy transzformáljunk fájlok, illetve adatbázisok között Fejlesztési környezete a Business Intelligence Development Studio (BIDS)

3 Hol találkozhatunk SSIS-el
SQL Server Management Studio varázslói Import data Export data Copy Database Maintenance Plans Business Intelligence Development Studio Integration Services Project

4 SSIS Project Visual Studio-ba beépülő bővítmény Business Intelligence Development Studio néven A project tartalmazhat egy vagy több SSIS csomagot (package) Minden csomag önálló futtatási, telepítési egység, amit varázslóval összekattintgathatunk, grafikusan megtervezhetünk, de akár programozottan is létrehozhatunk

5 SSIS csomagok tárolása
A forráskód xml-ben Könyvtárstruktúrába szervezhető Tárolási lehetőségek Fájlrendszeren belül akárhol SQL Server Package Store SQL Server msdb adatbázis

6 Terméktörzs betöltésével kapcsolatos követelmények
Az adatok egy text fájlban vannak Az adatokat nem kell transzformálni csak betölteni őket Az SQL táblát minden betöltés előtt ki kell üríteni

7 Terméktörzs betöltése
Betöltés varázsló segítségével szövegfájlból

8 SSIS csomagok elemei Control Flow: a betöltő csomag folyamatábrája
Data Flow: adattranszformáció Connection Managers: adatforrások és célok Variables: paraméterezési lehetőségek Package Explorer: betöltő csomag tartalma

9 Control Flow Feladatok egymás utáni vagy párhuzamos végrehajtása (workflow) Task: valamilyen feladat végrehajtási egysége Container: csoportosítás lehetősége, tartalmathat több task-ot vagy további Precedence Constraint: A feladatok végrehajtási sorrendjét szabályozza. A megelőző feladat futásának és/vagy feltételeknek megfelelően

10 Data Flow Task Control flow feladat, adatáttöltés egysége
Data Source: adatok forrása Transformation: adattranszformációk Data Destination: adatok célja Data Viewer: adatok nyomkövetési lehetősége Data és Error Path: hibakezelési lehetőség

11 Data Flow Task (2) Data Flow Task az adatáttöltésekre Extract
Transform Load

12 Data Flow Sources Forrás adatok kinyerése
Relációs táblákból és nézetekből Fájlokból Analysis Services adatbázisok Nincs bemenetük, csak kimenetük

13 Data Flow Destinations
Adatok betöltése Relációs táblákba és nézetekbe Fájlokba Analysis Services adatbázisokba DataReaderekbe vagy Recordsetekbe Nincs kimenetük, csak bemenetük

14 Data Flow Transformations
A forrásokat kötik össze a célokkal Általában 1 be és 1 kimenettel rendelkeznek Az adataink tetszőleges átalakítására alklamazzuk őket A nyilak az adatáramlás irányát mutatják A zöld nyíl a hiba nélküli, a piros a hibás adatfolyam

15 Transzformációk Több bemenet vagy több kimenet
Egysoros transzformációk Többsoros transzformációk Több bemenet vagy több kimenet

16 Connection Managers Bármilyen adatforrásra mutathatunk velük
(MS SQL, Oracle, DB2) Segítségükkel könnyen lehet a tesztkörnyezetből az éles környezetre váltani, ahol más a szerver neve, más a fájlok elérési útja Csomagon belül tárolódik, nem lehet megosztani csomagok között

17 Variables Rendszer vagy felhasználói
A csomag futása során tárolhatunk le bennük adatokat Segítségükkel dinamikussá tehetjük a csomagok futását Hatókörrel rendelkeznek!

18 Vevőtörzs betöltésével kapcsolatos követelmények
Az adatok forrása Excel 2007-es fájl A betöltött adatokról tudni kell ki, mikor, honnan töltötte be őket A cél helyen a vevő neve 1 oszlopban legyen Az betöltés során keletkezett üres sorokat ki kell szűrni Az adatok két külön helyről jönnek ugyanolyan struktúrában A vevő adatai változhatnak Csak akkor induljon el a betöltés, ha a fájlok rendelkezésre állnak

19 Vevőtörzs betöltése Betöltés kézzel varázsolva Excel fájlból

20 Tipikus adat betöltési problémák
Szövegfájl Kódlap / Unicode Formátum Delimited / Fixed width Szöveghatároló jel Sorvége jel Tizedesvessző Excel Nincs adattípusa, az első néhány sor után dönti el az SSIS az adattípust, ha nem egyezik az adattípus, akkor NULL érték jelenik meg a táblában Az utoljára használt sorig importál

21 Paraméterezési lehetőségek
Változók segítségével (Variables) Kifejezések segítségével (Expressions) Csomag konfigurálás (Package Configurations) BIDS Helper segít láthatóvá tenni hogy melyik komponensnek van paraméterezett része

22 Értékesítési adatok betöltésével kapcsolatos követelmények
Az adatok forrása Excel 2007-es fájl A vevők és a termékek neve szerepel a forrás fájlban, amit át kell fordítani vevő és termékkódra Az adatok havonta új fájlban vannak, a fájl neve utal az évre és a hónapra Esetenként előfordulhat, hogy a vevő nevét elírják, ebben az esetben meg kell próbálni a hasonló nevű vevők közül beazonosítani a vevőt

23 Internetes értékesítek betöltése
Betöltés több fájlból

24 SSIS csomagok kezelése
Létrehozás, szerkesztés és nyomkövetés SQL Server Business Intelligence Development Studio SQL Serverben tárolt csomagok futtatása, jogosultságkezelés, jelenleg futó csomagok SQL Server Management Studio Parancssor Futtatás Dtexecui (32, 64 bites változat) Dtexec (32, 64 bites változat) Import-export dtutil (csak 32 bites változat)

25 Ütemezett futtatás Időzítés SQL Server Agenttel
Nem kell az Agentet futtató felhasználónak mindenre jogosultságot adni, helyette Proxy-t kell használni (SISS Package Execution) Credential: Windowsos felhasználó, az SQL-en kívüli adatok eléréséhez, felhasználónév és jelszó szükséges

26 Futtatás Futtatás parancssorból és időzítetten SQL Server Agenttel

27 SSIS-sel megoldható feladatok
Adatok importálása-exportálása Több különböző adatforrásból származó adatok egységesítése Adattárházak feltöltése Adattisztítás és adatkonverzió Rendszergazdai feladatok (karbantartási tervek) végrehajtása

28 Hasznos oldalak https://www.netacademia.net/tudastar

29

30