Nov 252017
Dec 052015
Godiva, minulý týden jsem měl možnost účasnit se školení, které poskytoval sir. Jonathan Lewis. Jestli u mě na blogu nejste poprvé zajisté jméno znáte. Nebudu hledat ty všechny články, kde jsem ho zmínil, ale minimálně jsem vychvaloval dvě jeho knihy CBO (přesný název Cost-Based Oracle Fundamentals) a Essential Internals for DBAs and Developers. Bohužel obě knihy ač jsou výborné trpí atributem “zastaralý”. Ostatně i sám Lewis to v úvodu CBO knihy píše, že vždy když si nastuduje nějakou verzi Oracle napíše k tomu knihu, že už v době releasu knihy je 2 verze Oracle pozadu. A bohužel tim, že je často řeč na pomezí interních věcí Oracle, které nejsou standardizovány, se vše mění dost podstatně (v porovnáním s knížkama jinýma, kde nás před velkou změnou mezi verzemi chrání SQL standard či snaha o backwards compatibilty). Ono vypadá, že některé věci by mohly zůstat přes všechny verze, protože třeba matematický výpočet selectivity na intervalu zůstane navždy stejný. Ovšem jakmile se přidají do toho histogramy, tak se to od verze od verze dost mění (ve 12c třebas nově větší histogramy >256 bucketu, Top N a hybridní histogram, interni vypocet je trošku jiný…). Tak či tak je to dobrá knížka a jedna z nejlepších o Oracle.
Přednáška byla rozdělat na tři části Designing Optimal SQL, Troubleshooting and Tuning a diskuze. Nejsem způsobilý k tomu, abych mohl recenzovat ani snad komentovat jak někdo vykládá. Prostě vpořádku, vypadá jak typický britský účitel a vykládat dost dobře. Pouze jedna poznámka, co se mi tom hodně líbilo a což jsem od něj tak čakal: Velmi často řiká “možná”, “když budete mít štěstí” atd. Do výkladu vkládá krásnou nestabilitu, nikoliv protože by nevěděl, ale protože ví, že jsou za tim další komplikovaná rozhodnutí CBO, které třebas nemá čas popisovat a které se třeba objevují jen zřídka. Alá: “na pořadí v jakém napíšu tabulky do joinu ve skutečnosti záleží” – nicméně to je na úrovni internal Oracle a je strašně nepravděpodobné, že to někdy někdo z nás uvidí či to bude problém. Lewis sice píše pořadí tabulek ve FROM klauzuli v nějakém specifickém pořadí nicméně důvodem neni performance ale čitelnost.
Fakt luxusní povidání, třebas se mi hodně líbilo jak si dal pozor na to, aby uvedl na pravou míru, že na reverzním indexu je opravdu možné použít operaci “range scan”, ovšem pouze a jenom na equality operátoru, jinak bohužel. Většina knížek se s tim nesere a napíše, že prostě “range scan” neni na možný na reverse indexu. Někde na svém blogu se o tom zminoval. Ostatně většinu věcí co vykládal jsem poznával, že je relativní ke konkrétnímu postu na jeho blogu.
Technologie, co popisoval byly známé. Nicméně jsem si vědom, že je možné někdo nezná, tedy dohledejte si případně – budu jen vyjmenovávat. A na konci, co bylo nového pro mou psa a chci si zapamatovat:
Designing Optimal SQL:
Zmíněné featury: index_join ,index_combine, index rebuild, index coalescence, clusters, data analysis, qb_name, readibility, leading, index, use_nl, use_hash, swap:_joins_inputs, full, no_push_subq, materialize, sql baselines, or explain gather_plan_statistic, adaptive curshor sharing, index_ffs.
A taky ukazoval zjednodušené vzorce pro NL/HASH/MERGE joiny. Bohužel to strašně zjednodušil a zrovna tam by mi zajímalo jaký benefit má nová implementace NL v 11g kdy se lehce prohodilo pořadí v exekučním plánu a přidalo bufferovani, aby se zvednula pravděpodobnost brani bloku z cache.
Pokud je query bloku větší množství tabulek, tak Oracle vezme jednu, přijoinuje druhou, třetí, čvrtou. Občas ale chceme join mezi 1 a 4 a join mezi 2 a 3 a teprve pak najoinovat na sebe výsledky. De-facto rozpadnout jeden query block na dva. Jonathan to nazval dvěma pojmy, které jsem předtím nikdy neslyšel: Left-deep (to co dělá Oracle 1,2,3,4) a Bushy tree (to co se mu snažíme vnutit my pomocí with as, zavorek, redesingu, unnest a no_unnest (1,4)@(2,3)). Další pozoruhodná poznámka byla, že Oracle 12c už je v tomhle chytřejší.
A co si odnáším páč jsem nevěděl:
- table_cached_blocks v dbms_stats u preferencích tabulky lze setnout i tenhle attribut
- index rebuild online – nejde na indexech enforsujícíh PK/UK, dobré vědět. Nadruhou stranu na 11+ Oracle je rebuild potřeba jen vyjmečně a zrovna u PK, kde by se sloupec neměl updatovat vubec, to vubec nevadi
- index rebuild online – vyžaduje stejně lock při applikování journalu (stejně jako při switch dbms_redefinition)
- sys_op_lbid – při mém štěstí jsem tuhle funkce už použil (jednou a nedávno :D), takže jsem věděl, nicméně stojí za připomenutí interní funkce vracící leaf block id z indexu na základě daného rowid
- materialize hint – nemá to ověřené ale temp tabulka je vždy když tabulku z with as odkazujeme více než jednou, což by krásně odpovídalo tomu co dělá star_transformation u které je to tak nějak naznačeno přímo v dokumentaci
- _optimalizer_adaptive_cursor_sharing – ha, zkrytý databázový parametr jak vypnout tuhle featuru Na úrovni statementu by mělo stačit normálně NO_BIND_AWARE hint, který teda Oracle zdokumentoval až ve 12c, pokud se nepletu.
Troubleshooting and Tuning
Zmíněné featury: ASH, session trace, sqlmonitoring, dbms_sqltune, v$sess_time_model , index reverse, cardinality hint, step by step slow processing, hprofiler, pragma udf, no segment indexy, invisible indexy, fixed views, waiting metriky, sql plan statistic, awr, obarvování sql, deklarace funkce with as v 12.1c
Jinak to bylo zajímavé povidání o konci tabulek a hot blokách, že trapných 600 session potkávajících se v library cache na jedno sql může udělat problém. A hodně řešil fixed views a data dictionary pohledy a ukazoval jak jsou napsány obecně a ne vždy se hodí z peformance důvodu – aneb view je query blok (pokud to oracle neztransformuje) optimalizovaný zvlášt a maximálně tam může pushnout predikát, což ne vždy stačí.
A co si odnáším páč jsem nevěděl:
- index reverse – nikdy jsem nad tím nepřemýšlel, ale index reverse pochopitelně ovlivní clustering_factor (česky: nejspíše ho totálně rozmrdá)
- temporary tabulky sice mají na 12c vlastní statistiky pro usery, ale ne by default, navíc jdou setnout do temporary tablespace
- dbms_stats.num_array – musim si zkusit
- mohu sám setnout clustering_factor na indexu
- virtual column + check constraint (+hidden ideálně na 12c) může pomoci exekučnímu plánu. Check je pochopitelně vyčerveněno schválně, protože fakt to Oracle umí i s expression (COOL !)
- pragma udf – uplně jsem na ní zapomněl. PL/SQL funkce volaná z SQL – pomůže to eliminovat overhead na přepinání contextu nez pl/sql a sql engines (ač tomu Lewis řikal lehce jinak). Nicméně na 12.1 je tohle rychlejšejší.
- v$sql_workarea_histogram – luxusni view, neznal jsem
Diskuze
To bylo dost volné řešily se MVIEW Logy, ukazoval parallení exekuci a nějaká menší zmínka o DBMS_REDEFINITION, SQL Baselines a pár nelichotivých poznámek na 12c Na mých slovíčkách ze švédštiny se třebas objevil na 12c nový sloupec neb Oracle přišel na to, že je tam nějaká kolerace, takže si chlapec založil virtuální sloupec a hodil na něj extented statistiky, nicméně lze vypnout a jen nechat Oracle to reportovat.
A co si odnáším páč jsem nevěděl
- treedump indexu bloku jsem nikdy nezkoušel, vypadá zajímavě (eventu nepamatuji)
- Pokud jsem to dobře pochopil, tak rozpartišnování tabulky pujde na 12.2 ONLINE wohowo
- DBMS_REDEFINITION a aplikace journalu – Jonathan o tom mluvil, jako že aplikace journalu muže nějaký čas trvat a vyžaduje LOCK, musim zjistit – do ted jsem si myslel, že po synchronizaci hlavni tabulky, mužu/bude journal ještě pořád sychrnonizován online a obecně mužu dosynchrnizovovát libovolně dokud to neni skoro fresh a pak teprve LOCK.
- 40x ? Jestli jsem slyšel dobře tak overhead na MATERIALIZED VIEW LOG je 40 rekurzivnich selectu – budu muset najit, přijde mi to podezřele vysoké
Bloom filtr – tohle je hroznej chyták, funguje to od Oracle 10g a zdokumentováno to bylo až v 12.1c. Lewis mluvil o tom, že v 11g se to neukazuje v exekučním plánu. Což je možná dobré upřesnit, protože záleží na tom který. Bloom fitr na úrovni filtrování rows při paralelní exekuci je v plánu jen v OTHER/XML na 11.2. Ovšem i na 11.2 je vidět v exekučním plánu pokud je to na úrovni partitions – prostě eliminace partitions na bloom filtru.
Suma sumárum hodně děkuji svému zaměstanavateli za luxusní školení, nevim koho bych na školení raději než Lewise určitě zajímavější než Kyte. Možná ještě zajímavej by byl Julian Dyke (+ a pochopitelně jakákoliv prsatá samička, která třebas ani Oracle nezná ale nosí těsné džíny)
Aug 022015
Godiva, mohlo by se zdát, že rok po takovém čase od vydání 12.1c nemá cenu psát o hintech z 11.2g. Nicméně tento článek jsem rozepsal před více než rokem a půl, zanechal ve složce “drafts” a zapomněl. Navíc je to tak nějak pokračování, takže by bylo fajn to dokončit, speciálně když jsem ho v draftech našel de-facto dokončený Takže jen lehké update a publish.
K hintu IGNORE_ROW_ON_DUPKEY_INDEX se toho asi mnoho nedá napsat – lze jej použít jen v INSERT, je nový od 11.2g (předtím šlo v 10.2g potlačit chybu pomocí DBMS_ERRLOG). A co je zajímavé – Oracle explicitně zmiňuje, že v případě nalezení neunikátního záznamu se pokračuje dále a row-level lock řádku pustí – tzn, ty řádky které insertuje a již existují v tabulce to nelockne.
Synaxe je následující:
Takže ukázka, data stejná jako minule:
create table tbl_ignore_key as select rownum as col_unique from dual connect by level<6;
Zase nějaký unikátní index:
create unique index inx_tbl_ignore_key_col_unique on tbl_ignore_key(col_unique);
A pokus o insert s hintem IGNORE_ROW_ON_DUPKEY_INDEX:
insert /*+ IGNORE_ROW_ON_DUPKEY_INDEX(tbl_ignore_key,inx_tbl_ignore_key_col_unique) */ into
tbl_ignore_key select rownum as col_unique from dual connect by level<11;
5 rows inserted.
Dokonce kdyby nikdo nevěřil, to mohu pustit znovu :
insert /*+ IGNORE_ROW_ON_DUPKEY_INDEX(tbl_ignore_key,inx_tbl_ignore_key_col_unique) */ into
tbl_ignore_key select rownum as col_unique from dual connect by level<11;
0 rows inserted.
Kdy mi to sice nic neinsertuje, ale nespadne na constrain, zatímco bez hintu:
insert into tbl_ignore_key select rownum as col_unique from dual connect by level<11; 00001. 00000 - "unique constraint (%s.%s) violated"
Nebo nyní nově pro nás, co se učíme švédsky ORA-00001: brott mot unik begränsning ;). Takže tolik k tomuto hintu, ještě zbývají nějaká ta upozornění – pochopitelně nelze použít v kombinaci s APPEND hitem (který bude ignorován), odkazuje se tam na konkrétní objekt – což v hintu většinou typicky znamená, že hint na neexistující objekt vyfailuje celý insert, nelze použít v bukách a je to rychlejší než EXCEPTION klauzule.
Jul 042015
Po delší době zase Godiva, jsem zpět.
Ačkoliv jsem byl z možnosti tracování CBO velice potěšen (a stále sem) a rozepsal jsem hned další díl, tak jsem byl potrápen nedostatkem času za který mohla převážně moje nádherná vyučující švédštiny. Ano, v mém věku jsem prvně dělal a odevzdával úkoly, které bych na škole vyměnil za pětku či poznámku a označil slovem nepovinný. Ale nyní jsem se snažil dělat úkoly v A++ kvalitě (ve smyslu ano, musí rozesmát/potěšit moji feministickou učitelku a ne, nemusí být gramaticky správně). Nicméně z úkolu mi právě vyvázal konec kurzu v kombinaci se zjištěním, že je samička zasnoubená :/. A taky, a to si přiznejme, za delší odmklu na blogu může Serious Sam II a Trine 2.
Ale nyní zpět k CBO tracování, v minulém postu jsem tak nějak naznačil jak moc cool je tracování eventu 10053. To byl ovšem začátek, který tak akoád ukazuje, že něco takového existuje. Na optimaizaci select * from dual prostě Oracle nemá co vymyslet. Doby, kdy se sekvence tahala přes select into a v rámci vyhnutí se latchů se dělala podobná tabulka vícekrát, jsou taky pryč, takže obecně ani my programátoři nic na select * from dual nevymýšlíme, není co – akorád to nepoužívat jako hulvát, když nemusíme. Takže zkusme hodit trace něčeho odvážnějšího, ale zase né moc, začínáme – dvě tabulky postačí.
create table tbl_1000 as select rownum as id, mod(rownum,10) as tbl_1000id from dual connect by level<1001;
create table tbl_10000 as select rownum as id, mod(rownum,100) as tbl_10000id from dual connect by level<10001;
Jedna tabulka tbl_1000 s 1000 řádky a druhá tbl_10000 s 10000 řádky. A ještě jednu věc udělejme:
begin
DBMS_STATS.delete_table_stats('AZOR6','tbl_1000');
end;
Proč? Protože nově na 12c, kterou mám doma Oracle počítá statistiky během CTASu a já opravdu o statistiky zájem nemám. O co mám zájem je, aby mi zase ukázal jak si CBO krásně nasampluje.
Zapnutí tracování:
ALTER SESSION SET EVENTS '10053 trace name context forever,level 1';
A select:
select count(*) from tbl_1000 join tbl_10000 on (tbl_1000.tbl_1000id = tbl_10000.tbl_10000id);
A pak vzhůru do souboru: orcl12_ora_6508.trc
O proti select * from dual jsou zajímavější pokusy Oracle o rewrite – ve smyslu to přepsat tak, aby to bylo efektivnější. Pokusit se vyhodit zbytečný join apod. A ani nyní neuspěl se žádnou optimaizací. Jediný přepis byl přesunu join podmínky z standardu SQL (join on) do WHERE podmínky. Z hlediska optimlizace žádná změna. Nyní rozhodnutí o přístupových cestách:
Access path analysis for TBL_1000
***************************************
SINGLE TABLE ACCESS PATH
Single Table Cardinality Estimation for TBL_1000[TBL_1000]
SPD: Return code in qosdDSDirSetup: NOCTX, estType = TABLE
Table: TBL_100 Alias: TBL_100
Card: Original: 1000.000000 Rounded: 1000 Computed: 1000.00 Non Adjusted: 1000.00
Access Path: TableScan
Cost: 3.01 Resp: 3.01 Degree: 0
Cost_io: 3.00 Cost_cpu: 205607
Resp_io: 3.00 Resp_cpu: 205607
Best:: AccessPath: TableScan
Cost: 3.01 Degree: 1 Resp: 3.01 Card: 1000.00 Bytes: 0
Bohužel nemá víc na výběr než jet full table scan s costem 3 a odhadem 1000 řádků. Zato druhá tabulka je daleko zajímavější :
Access path analysis for TBL_1000 *************************************** SINGLE TABLE ACCESS PATH Single Table Cardinality Estimation for TBL_1000[TBL_1000] SPD: Return code in qosdDSDirSetup: NOCTX, estType = TABLE *** 2015-03-19 23:48:26.731 ** Performing dynamic sampling initial checks. ** ** Dynamic sampling initial checks returning TRUE (level = 2). ** Dynamic sampling updated table stats.: blocks=21
Statistiky pro TBL_1000 jsem mu smazal, takže si CBO musí nasamplovat tabulku, což podle trace dělá následujícím způsobem:
SELECT
/* OPT_DYN_SAMP */
/*+ ALL_ROWS IGNORE_WHERE_CLAUSE NO_PARALLEL(SAMPLESUB) opt_param('parallel_execution_enabled', 'false') NO_PARALLEL_INDEX(SAMPLESUB) NO_SQL_TUNE */
NVL(SUM(C1),0),
NVL(SUM(C2),0),
COUNT(DISTINCT C3),
NVL(SUM(
CASE
WHEN C3 IS NULL
THEN 1
ELSE 0
END),0)
FROM
(SELECT
/*+ NO_PARALLEL("TBL_1000") FULL("TBL_1000") NO_PARALLEL_INDEX("TBL_1000") */
1 AS C1,
1 AS C2,
"TBL_1000"."TBL_1000ID" AS C3
FROM "AZOR6"."TBL_1000" "TBL_1000"
)
Z čehož mu vypadne nějaký takovýto výstup:
*** 2015-03-19 23:48:26.794
** Executed dynamic sampling query:
level : 2
sample pct. : 100.000000
actual sample size : 10000
filtered sample card. : 10000
orig. card. : 1716
block cnt. table stat. : 21
block cnt. for sampling: 21
max. sample block cnt. : 64
sample block cnt. : 21
ndv C3 : 100
scaled : 100.00
nulls C4 : 0
scaled : 0.00
min. sel. est. : -1.00000000
** Dynamic sampling col. stats.:
Column (#2): TBL_1000ID(NUMBER) Part#: 0
AvgLen: 22 NDV: 100 Nulls: 0 Density: 0.000000
** Using dynamic sampling NULLs estimates.
** Using dynamic sampling NDV estimates.
Scaled NDVs using cardinality = 10000.
** Using dynamic sampling card. : 10000
** Dynamic sampling updated table card.
Table: TBL_1000 Alias: TBL_1000
Card: Original: 10000.000000 Rounded: 10000 Computed: 10000.00 Non Adjusted: 10000.00
Access Path: TableScan
Cost: 7.05 Resp: 7.05 Degree: 0
Cost_io: 7.00 Cost_cpu: 1849550
Resp_io: 7.00 Resp_cpu: 1849550
Best:: AccessPath: TableScan
Cost: 7.05 Degree: 1 Resp: 7.05 Card: 10000.00 Bytes: 0
Počet řádků (10000), počet distinctních hodnot (100), počet nulls (0) a cost 7. A nyní ty zajímavé věci a zjištění – original cardinality 1716. Kde se to vzalo? Je to výpočet Oracle pro tabulku, která nemá statistiky. Píší výpočet, protože když Oracle přecházel z RBO na CBO měly tabulky by default cardinalitu 100. Kolik mají nyní netuším, ale rozhodně se jedná výpočet (možná někdy prozkoumám) – patrně na základě počtu segmentů, velikosti bloků a max délky řádky – dávalo by to smysl, přecejenom nějaké info Oracle má. Jak zjistit default bez statistik se dá klidně potlačením dynamic samplingu bez nutnosti tracování:
select /*+ dynamic_sampling(0) */ count(*) from tbl_100 join tbl_1000 on (tbl_100.tbl_100id=tbl_1000.tbl_1000id);
Další zajímavá věta je “max. sample block cnt. : 64″ je vidět, že CBO byl pro mě ochoten nasbírat 64 bloků a tabulka má jen 21. Takže select běžel proti celé tabulce bez jakéhokoliv omezení. A ještě jedna řádka je zajímavá – filtered sample card. – což bude souviset s levelem dynamic samplingu a případně where podmínkou. Level nízký a žádný where, takže nebylo co řešit – počet řádků stejný jako v tabulce.
A nyní přijde to co přijít muselo. Perumtování a permutování a permutováné Naštětí jsem si nezasral za uši najoinoval jen dvě tabulky na sebe, což mu dává přecejenom dost omezený počet permutací.
Join order[1]: TBL_1000[TBL_1000]#0 TBL_10000[TBL_10000]#1
***************
Now joining: TBL_10000[TBL_10000]#1
***************
NL Join
Outer table: Card: 1000.000000 Cost: 3.005178 Resp: 3.005178 Degree: 1 Bytes:
Access path analysis for TBL_10000
Scan IO Cost (Disk) = 5.689000
Scan CPU Cost (Disk) = 1849550.240000
Total Scan IO Cost = 5.689000 (scan (Disk))
+ 0.000000 (io filter eval) (= 0.000000 (per row) * 10000.000000 (#rows))
= 5.689000
Total Scan CPU Cost = 1849550.240000 (scan (Disk))
+ 500000.000000 (cpu filter eval) (= 50.000000 (per row) * 10000.000000 (#rows))
= 2349550.240000
Inner table: TBL_10000 Alias: TBL_10000
Access Path: TableScan
NL Join: Cost: 5751.176415 Resp: 5751.176415 Degree: 1
Cost_io: 5692.000000 Cost_cpu: 2349755847
Resp_io: 5692.000000 Resp_cpu: 2349755847
Best NL cost: 5751.176415
resc: 5751.176415 resc_io: 5692.000000 resc_cpu: 2349755847
resp: 5751.176415 resp_io: 5692.000000 resc_cpu: 2349755847
SPD: Return code in qosdDSDirSetup: NOCTX, estType = JOIN
Join Card: 100000.000000 = outer (1000.000000) * inner (10000.000000) * sel (0.010000)
Join Card - Rounded: 100000 Computed: 100000.000000
Outer table: TBL_1000 Alias: TBL_1000
resc: 3.005178 card 1000.000000 bytes: deg: 1 resp: 3.005178
Inner table: TBL_10000 Alias: TBL_10000
resc: 7.046579 card: 10000.000000 bytes: deg: 1 resp: 7.046579
using dmeth: 2 #groups: 1
SORT ressource Sort statistics
Sort width: 10 Area size: 131072 Max Area size: 2097152
Degree: 1
Blocks to Sort: 4 Row size: 25 Total Rows: 1000
Initial runs: 1 Merge passes: 0 IO Cost / pass: 0
Total IO sort cost: 0.000000 Total CPU sort cost: 40156645
Total Temp space used: 0
SORT ressource Sort statistics
Sort width: 10 Area size: 131072 Max Area size: 2097152
Degree: 1
Blocks to Sort: 18 Row size: 14 Total Rows: 10000
Initial runs: 2 Merge passes: 1 IO Cost / pass: 12
Total IO sort cost: 30.000000 Total CPU sort cost: 46137630
Total Temp space used: 254000
SM join: Resc: 42.451655 Resp: 42.451655 [multiMatchCost=0.226657]
SM Join
SM cost: 42.451655
resc: 42.451655 resc_io: 40.000000 resc_cpu: 97349433
resp: 42.451655 resp_io: 40.000000 resp_cpu: 97349433
Outer table: TBL_1000 Alias: TBL_1000
resc: 3.005178 card 1000.000000 bytes: deg: 1 resp: 3.005178
Inner table: TBL_10000 Alias: TBL_10000
resc: 7.046579 card: 10000.000000 bytes: deg: 1 resp: 7.046579
using dmeth: 2 #groups: 1
Cost per ptn: 0.044072 #ptns: 1
hash_area: 32 (max=512) buildfrag: 4 probefrag: 19 ppasses: 1
Hash join: Resc: 10.322486 Resp: 10.322486 [multiMatchCost=0.226657]
HA Join
HA cost: 10.322486
resc: 10.322486 resc_io: 10.000000 resc_cpu: 12805157
resp: 10.322486 resp_io: 10.000000 resp_cpu: 12805157
Best:: JoinMethod: Hash
Cost: 10.322486 Degree: 1 Resp: 10.322486 Card: 100000.000000 Bytes:
***********************
Best so far: Table#: 0 cost: 3.005178 card: 1000.000000 bytes: 13000.000000
Table#: 1 cost: 10.322486 card: 100000.000000 bytes: 1600000.000000
Oracle má k dispozici pouze dvě tabulky na optimalizaci, takže pro permutace má jen dvě možnosti A-B a B-A respektive tbl_1000-tbl_10000 a tbl_10000_tbl-tbl_1000. Prvně zkusil nejprve pořadí tbl_1000-tbl_10000. S tím, že zkoušel tři kombinace (což být vždycky nemusí, ale velmi často bude) – NL – neasted loopu, SM – sort merge join a HA – hash join. Pro NL byl cost 5751, pro SM 42 a vyhrál HA s krásným costem pouhých 10 ;). Že Oracle nekecá jsem si ověřil a zkusil si to tak hintnout:
select /*+ use_nl(tbl_10000 tbl_1000) leading(tbl_1000) */ count(*) from tbl_1000 join tbl_10000 on (tbl_1000.tbl_1000id = tbl_10000.tbl_10000id);
A funguje, horší bylo když jsem si zkusil hintnout merge join a dostal jsem se na dvojnásobný cost, což nepotěší, žejo. Nakonec jsem si po delším pátrání uvědomil, že jsem se pro NL původně snažil přepočítat její COST s čímž jsem jednak neuspěl a jednak jsme si kvůli tomu pustil:
begin
dbms_stats.gather_system_stats() ;
end;
Abych věděl sreadtim/mreadtim což byla hlupárna, žejo – jednak to nemělo šanci na úspěch, protože jak mam něco zkoumat, když si to sám změním? A druhak mam ted pochopitelně jiné costy, všude.. Po té, co CBO provedlo přepočítalo tyto tři joiny pro první pořadí je třebas se posunout dále:
***********************
Best so far: Table#: 0 cost: 3.005178 card: 1000.000000 bytes: 13000.000000
Table#: 1 cost: 10.322486 card: 100000.000000 bytes: 1600000.000000
***********************
Krásně ještě printne jaký z toho má výstup a já se snad někdy tady na blogu (sám již jsem viděl) dostanu k tomu, že ukáži jak stavový prostor odřízne když mu při permutování vzroste cena nad cenu nejlepšího plánu. Bohužel na dvou tabulkách ukázat nejde. Dále následuje druhá a poslední permutace:
***********************
Join order[2]: TBL_10000[TBL_10000]#1 TBL_1000[TBL_1000]#0
***************
Now joining: TBL_1000[TBL_1000]#0
***************
NL Join
Outer table: Card: 10000.000000 Cost: 7.046579 Resp: 7.046579 Degree: 1 Bytes:
Access path analysis for TBL_1000
Scan IO Cost (Disk) = 1.354300
Scan CPU Cost (Disk) = 205607.200000
Total Scan IO Cost = 1.354300 (scan (Disk))
+ 0.000000 (io filter eval) (= 0.000000 (per row) * 1000.000000 (#rows))
= 1.354300
Total Scan CPU Cost = 205607.200000 (scan (Disk))
+ 50000.000000 (cpu filter eval) (= 50.000000 (per row) * 1000.000000 (#rows))
= 255607.200000
Inner table: TBL_1000 Alias: TBL_1000
Access Path: TableScan
NL Join: Cost: 13614.418874 Resp: 13614.418874 Degree: 1
Cost_io: 13550.000000 Cost_cpu: 2557921550
Resp_io: 13550.000000 Resp_cpu: 2557921550
Best NL cost: 13614.418874
resc: 13614.418874 resc_io: 13550.000000 resc_cpu: 2557921550
resp: 13614.418874 resp_io: 13550.000000 resc_cpu: 2557921550
SPD: Return code in qosdDSDirSetup: NOCTX, estType = JOIN
Join Card: 100000.000000 = outer (10000.000000) * inner (1000.000000) * sel (0.010000)
Join Card - Rounded: 100000 Computed: 100000.000000
Outer table: TBL_10000 Alias: TBL_10000
resc: 7.046579 card 10000.000000 bytes: deg: 1 resp: 7.046579
Inner table: TBL_1000 Alias: TBL_1000
resc: 3.005178 card: 1000.000000 bytes: deg: 1 resp: 3.005178
using dmeth: 2 #groups: 1
SORT ressource Sort statistics
Sort width: 10 Area size: 131072 Max Area size: 2097152
Degree: 1
Blocks to Sort: 18 Row size: 14 Total Rows: 10000
Initial runs: 2 Merge passes: 1 IO Cost / pass: 12
Total IO sort cost: 30.000000 Total CPU sort cost: 46137630
Total Temp space used: 254000
SORT ressource Sort statistics
Sort width: 10 Area size: 131072 Max Area size: 2097152
Degree: 1
Blocks to Sort: 4 Row size: 25 Total Rows: 1000
Initial runs: 1 Merge passes: 0 IO Cost / pass: 0
Total IO sort cost: 0.000000 Total CPU sort cost: 40156645
Total Temp space used: 0
SM join: Resc: 42.451655 Resp: 42.451655 [multiMatchCost=0.226657]
SM Join
SM cost: 42.451655
resc: 42.451655 resc_io: 40.000000 resc_cpu: 97349433
resp: 42.451655 resp_io: 40.000000 resp_cpu: 97349433
Outer table: TBL_10000 Alias: TBL_10000
resc: 7.046579 card 10000.000000 bytes: deg: 1 resp: 7.046579
Inner table: TBL_1000 Alias: TBL_1000
resc: 3.005178 card: 1000.000000 bytes: deg: 1 resp: 3.005178
using dmeth: 2 #groups: 1
Cost per ptn: 0.055405 #ptns: 1
hash_area: 32 (max=512) buildfrag: 19 probefrag: 4 ppasses: 1
Hash join: Resc: 10.356484 Resp: 10.356484 [multiMatchCost=0.249322]
Outer table: TBL_1000 Alias: TBL_1000
resc: 3.005178 card 1000.000000 bytes: deg: 1 resp: 3.005178
Inner table: TBL_10000 Alias: TBL_10000
resc: 7.046579 card: 10000.000000 bytes: deg: 1 resp: 7.046579
using dmeth: 2 #groups: 1
Cost per ptn: 0.044072 #ptns: 1
hash_area: 32 (max=512) buildfrag: 4 probefrag: 19 ppasses: 1
Hash join: Resc: 10.322486 Resp: 10.322486 [multiMatchCost=0.226657]
HA Join
HA cost: 10.322486 swapped
resc: 10.322486 resc_io: 10.000000 resc_cpu: 12805157
resp: 10.322486 resp_io: 10.000000 resp_cpu: 12805157
Join order aborted: cost > best plan cost
Nejlepší plán již máme a zdálo by se že by to měl být konec, nicméně co je dále ještě zajímavé je část, kde nově nyní v Oracle 12.1c počitá inflexní bod pro adaptivní plán 
Nicméně u mě došel k celkem jasnému závěru:
DP: skipping adaptive plan due to NLJ heuristics
A do je vše Ještě je tam zvažování jestli se to bude cachovat a pak už jen print všech parametru včetně patches a výpis exekučního plánu. Kdyby někdo byl snad liný a měl zájem se na trc jen podívat, tak zde download – je tam jedna ještě jedno nebo dvě sql, které jsem spustil v té session.
Oct 242014
Kolega si kdys postěžoval, že blog moc často neaktualizuji a má pravdu Nicméně dneska si ten post doslova vynutil, když mi potrápil s jedním selectem. Prvně bych chtěl všem připomenout, že to v Oracle funguje (alespon v zapatchované 11.2g) tak, že pokud Vám select vrací něco, co vypadá jako nesmysl – máte to špatně vy, ne Oracle. V mé první práci mě tohle myšlení naučil kolega, který nebyl ochoten přemýšlet o bugu Oracle dříve než za několik hodin doumání nad selectem. A já jsem tohle posunul ještě dál – tak 14 dní. Pokud jste daným selectem neztrávili alespoň 14 dní, pak není racionální přemýšlet nad tím, že je to bug Oracle. Za svůj život jsem potkal přesně 3 selecty, které vrátily špatný výsledek a byl to bug (hashjoin u subpartitions , left join na dual a to poslední si nepamauji – všechno již dávno fixnuto Oraclem). Zatímco já jsem na svůj select koukal asitak přesně bžilionkrát s tím, že “to není možné” a vždycky jsem končil přiznáním vlastní chyby a chutí ukousknout si vlastní ucho, když jsem zjistil, že to celou dobu přehlížím..
Jedinou vyjímkou, kdy bych přemýšlel nad chybou Oracle jsou ještě chvíle, kdy jste si hráli s datovým slovníkem (updaty pod sysem apod.) či je to chyba, kterou by mohlo vyvolat poškození datového bloku či indexu/objektu na mediu. Ale to je jen tak mé doporučení.
A nyní čím mi potrápil kolega (vypadalo nechtěně ačkoliv v průběhu zjišťování, v čem je zakopaná ponorka jsem ho podezíral se spousty věcí včetně VPD policy). Nejprve když mi popisoval svůj problém mluvil o constrainech a o tom, že mu “nefunguje cizí klíč”, což neznělo moc zajímavě, upřímně Do chvíle, než mi ukázal výsledky těchto dvou selectů:
Jiný výsledek
Všimněte, že výsledek je pokaždý jiný (počet řádků – sloupce jsou vždy z jiné tabulky) ačkoliv jediné co jsem změnil jsou sloupce v projection – join a predikát je naprosto stejný. Takže kde, že je ta zakopaná ponorka? Většinou v takovýhle případech zkouším exekuční plány – minimálně pro svou představu a oživení nápadů:
(explain plan)
Tohle píšu doma, takže to nemá naprosto stejný exekuční plán jako to mělo u nás v práci (speciálně to dělám na 12.1c tudíš tam mám navíc krok COLLECTORU a mám naprosto jiné tabulky), nicméně jako v práci to není ničím zajímavým, zkusme to pro b.*:
Tohle již vypadá zajímavěji – mám tam join na dvou tabulkách, ale exekuční plán jde jen do jedné tabulky. Krásná síla Oracle, který zjistí, že join na tabulku A vůbec přístup do ní není třeba. Důvodem je FK constrain. Ten zaručuje, že join by zafungoval všude, zároveň na a.id je primární klíč, který zamezuje “pronásobení řádků”. Takže nakonec po optimaizaci zbyde jen čtení z tabulky na predikát dsk=1 a join Oracle ztransformoval na b.album_id is not null.
Nicméně to je “co je v exekučním plánu” a úplně to nenasvěčuje, proč dva selecty vrací jiné výsledky. Takže jsem si řekl, co to udělá, když Oracle donutím si tu tabulku vzít a fyzicky je na sebe najoinovat – zkusil jsem hinty na full, use_hash. – a odnáším si z toho ponaučení: tohle se ohintovat nedá, jakmile to Oracle vykydlí hned na pravidlech, neni žádná šance na to šahat hintem. Což je věc nad kterou jsem nikdy nepřemýšlel – většinou člověk hintuje, to co drhne v exekučním plánu, nikoliv takhle od pohledu do selectu. Každopádně nejde. Co mi ale napadlo až doma je vypnout tuhle featuru kydlení pomocí hintu OPT_PARAM. Což má nevýhodu v tom, že já vlastně ani nevím, co přesně vypnout – je to nějaký ze bžilonu zkrytých parametrů. Takže jsem nahodil brutálnější hint OPTIMALIZER_FEATURE_ENABLE, který umožní zadat pouze verzi A tak se stačí jen modlit, aby to nebylo hned od první verze, ale nebylo:
Fajn zanfungovalo – hned na poprvé Taky jsem teda zbaběle střelil nízkou verzi Oracle. Nicméně případně hrubou silou by šlo zjistit od kdy to začne zase vracet dva řádky a pak případně udělat rozdíl hidden parametrů a tipnout si, co přesně kde je třeba vypnout. Ale to bylo jen tak pro zajímavost.
Každopádně to visí a padá na constrainu, mrknu jsem co kolega psal ve scriptech a s úsměvěm jsem na tváři objevil slovo “novalidate”. Řikám si ha, má tam bordel v datech nedodržuje FK/špinavá data a přidal constrain novalidate, takže zvalidovat:
ALTER TABLE track MODIFY CONSTRAINT fk_track ENABLE VALIDATE;
table TRACK altered
Po té, co mi tenhle příkaz nevyfuckoval, mi to začalo postupně kazit pátek 
Každopádně po delší odmlce jsme přišli, na to, že je problém s attributem RELY na constrainu. A to je můj druhý nový poznatek pro dnešek – pokud je na constrainu RELY, tak vás následné VALIDATE nevyhodí a normálně proběhne a co horší, proběhne pak i zpětné NORELY, jinými slovy, udělá to tahle kombinace:
ALTER TABLE track MODIFY CONSTRAINT fk_track RELY;
ALTER TABLE track MODIFY CONSTRAINT fk_track ENABLE VALIDATE;
ALTER TABLE track MODIFY CONSTRAINT fk_track NORELY;
Pekelné Takže je třebas to zpravit:
ALTER TABLE track MODIFY CONSTRAINT fk_track ENABLE NOVALIDATE;
ALTER TABLE track MODIFY CONSTRAINT fk_track ENABLE VALIDATE;
SQL Error: ORA-02298: není možno zkontrolovat platnost (AZOR6.FK_TRACK) - nebyly nalezeny nadřízené klíče
02298. 00000 - "cannot validate (%s.%s) - parent keys not found"
*Cause: an alter table validating constraint failed because the table has
child records.
*Action: Obvious
A od téhle chvíle již to není vůbec zajímavé, v tabulce je nějaký bordel, který je třebas promazat nebo se rozloučit sconstrainem. Takže asi tak, hébičkám zdar a pěkný víkend.
Oct 052014
Pokračování krátkého zkoumání jaké hodnoty se objevují ve sloupci STARTS v pohledu V$SQL_PLAN_MONITOR. Předchozí díl se věnoval počtu startů u tabulky, která není partišnovaná a dnešní díl se tedy bude věnovat tomuto sloupci u partitiovaných tabulek. Další díl budu věnovat paralelním selectům a pak se uvidí Protože je to dost zajímavý sloupec a těch kombinací a zajímavých operací je spousty, ale muj čas je omezen. Takže hurá na to!
Takže pojďme udělat rovnou tabulku s nějakýma partitions:
create table tbl_range (a_column)
PARTITION BY RANGE(a_column)
(
PARTITION p1 VALUES LESS THAN(1),
PARTITION p2 VALUES LESS THAN(2),
PARTITION p3 VALUES LESS THAN(3),
PARTITION p4 VALUES LESS THAN(4),
PARTITION p5 VALUES LESS THAN(5),
PARTITION p6 VALUES LESS THAN(6)
) as
select mod(rownum,6) from dual connect by level<1001;
A nyní select:
select /*+ MONITOR */ * from tbl_range;
Asi by člověka napadlo, že bude mít tolik startů, kolik má partitions. A přesně tak tomu je, ovšem s menším ale – protože první SQL Developer fetchne pouze 50 řádků (defalutní hodnota), takže je třeba proscrollovat a dostáváme počet startů rovných 6ti:
(počet startů – range)
Nebylo zajímavé, že? Prozradím, že s INLIST a HASH partitions to funguje naprosto stejně, daleko zajímavější je INVERVAL partitions. A vlastně důvodu proč tenhle článek vzniknul:
CREATE TABLE tbl_rang_i (a_column NUMBER(10)));
PARTITION BY RANGE(a_column)
INTERVAL(13)
(PARTITION base VALUES LESS THAN (0)
A nyní insertneme nějaká data:
insert into tbl_rang_i
select rownum from dual connect by level<=400 union all
select rownum+800 from dual connect by level<=400;
Konkrétně je to 800 řádků. Čísla od 1..400 a 800..1200. Takže se podívejme, kolik má tabulka partitions:
select owner,table_name,partition_count from all_part_tables where lower(table_name)='tbl_rang_i';
Počet partitions v tomhle view je 1048575, překvani? Taky jsem nedávno byl Ale Oracle v tomhle view pro tabulky na kterých je interval partitioning udává Oracle vždy číslo 1048575. Číslo není nějak moc magické, udává maximální počet partitions, který tabulka může být. Takže zkusime jiné view:
select count(*) from all_tab_partitions where lower(table_name)='tbl_rang_i';
Je jich 64. Lehce podezřele binárně kulaté číslo Ale to je jen náhoda – začínání od 0 a dva intervaly v rozmezí 1..400 a 800..1200 (takže něco jako select 2*(ceil(400/13))+1+1 from dual). A nyní konečně počet startů:
select /*+ MONITOR */ * from tbl_rang_i;
(počet startů – range-interval)
94. Což je lehce podezřelé číslo. Speciálně, když čekáte až Vám doběhne select a full table scan nad tabulkou co má 64 partitions přesáhne 65 a vesele si pokračuje. Nicméně po několika mých testech jsem doše k tomu, že Oracle pro interval partitions připočítává do STARTS i “mezery”. Tedy výpočet pro tento případ je select ceil(1200/13)+1 from dual tzn. 94 (jedna je pro BASE partition).
Inu počty startů:
- Pro range, list, hash – vždy počet partitions
- Pro range-interval – (spread mezi LOW a HIGH hodnotou v partiton sloupci) / intervalem partišnování (případně +1 pokud base partition je mimo)
- Precedenci berou “nižší karta” tedy full scanu nad supartišnovanou tabulkou je ve sloupcu STARTS počet čtených subpartitions.
Bohužel vzhledem k mému omezenému času tento článek končím, ale napadají mi daleko zajímavější scénáře – systém a referenční partitioning, partition wise-join a počet startů..
Aug 302014
Vcelku častý scénář – potřebujem zvalidovat constrain a zároveň jsme si vědomi, že data jsou špinavá a validace constrainu nám hnedtak neprojde. Takže nezbývá než nějaké řádky promazat či jinak vyřešit duplikace. Dnešní tip je věnován klauzuli EXCEPTIONS INTO, která je spoučástí příkazu ALTER TABLE a umožní uložit rowid duplicitních řádků při validaci constrainu. Takže hurá do toho!
CREATE TABLE TEST_CONS_EX AS SELECT ROWNUM AS ID FROM DUAL CONNECT BY LEVEL<=666;
A ještě nějaké náhodné duplicity (29 řádků)
INSERT INTO TEST_CONS_EX SELECT A FROM (SELECT ROWNUM A FROM DUAL CONNECT BY LEVEL<=666) WHERE ORA_HASH(A,21)=7;
Nic zajimavého, tabulka s jedním sloupcem ID s čísly od 1 do 666 s tím, že duplikovaných hodnot je tam 29, vždycky po dvou kouskách. Následně je potřeba vytvořit tabulku do které se porušení constrainu bude reportovat. Oracle odkazuje na scripty UTLEXCPT.SQL nebo UTLEXPT1.SQL. Ovšem stačí mít jen tabulku ve správné struktuře a není potřeba používat tyhle scripty.
CREATE TABLE dej_to_sem(row_id ROWID,
owner VARCHAR2(30),
table_name VARCHAR2(30),
constraint VARCHAR2(30));
Dokonce se to i hezky pamatuje, rowid, owner, jméno tabulky, jméno constrainu. Velikost přestně tolik, koli to může maximálně mít. Nyní vytvořme nějaký PK klíč. Neměl by být enabled.
ALTER TABLE TEST_CONS_EX ADD CONSTRAINT test_pk PRIMARY KEY (id) DISABLE;
A nyní enable společně s exceptions into klauzulí:
ALTER TABLE TEST_CONS_EX ENABLE CONSTRAINT test_pk EXCEPTIONS INTO DEJ_TO_SEM;¨
SQL Error: ORA-00001: nesplněna podmínka jedinečnosti (AZOR3.TEST_PK)
Sice nás to vyfuckovalo, ale díky použití klauzule máme k dispozici rowid řádků, které jsou duplicitní:
Důležité je pamatovat si, že každý řádek, který je tam duplicitní je tam tolikrát kolikrát je duplicitní (nikoliv n-1) tedy odmazat z master tabulky všechny záznamy, které jsou uvedeny v tabulce duplicit rozhodně není dobrý nápad, šéf ani Marta Jandová by za to nepochváli. Exspeciálně, když další logický krok po odmazání je zapnutí constrainu, což je příkaz ALTER TABLE, což je změna struktury tabulky a tedy nemožnost napsat nějakou verzi flashaback selectu (ORA-01466: nelze číst data – definice tabulky byla změněna) Jinak žádné záludnosti, tabulka pro uložení duplikací musí být pochopitelně přístupná majiteli constrainu.
