Autor Téma: AI - bylo Re:Nostalgia Delphi: v januári bude 30 rokov  (Přečteno 1357 krát)

Offline Marek Weyda

  • Hrdina
  • ****
  • Příspěvků: 283
  • Karma: 8
    • Verze Delphi: Delphi 2007, 10.1 Berlin
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #15 kdy: 09-01-2025, 12:40:08 »
BTW: co sa tyka toho skenovania/spacovania/precitania faktur z hocicoho do DB, mame na to nieco pre delphi?

Tam je úplně jedno, z jakého vývojového prostředí to napojíš. Tyto vytěžovací systémy mají své API, takže jediné kouzlo je ta komunikace s tímto API. A to se dá udělat dneska snad už úplně ze všech běžných vývojových prostředí. Je také dobré si dopředu zjistit poměr výkon / cena, protože zadarmo to samozřejmě není a řekl bych, že kvalita té umělé inteligence nebude úplně vždy stejná. Osobně mám dobrou zkušenost s Redque API, ale je nutné tu umělou inteligenci alespoň ze začátku hodně učit. Ale to je strašně jednoduché - špatně vytěžený doklad se nahlásí a oni už to na jejich straně pořeší.

Offline Radek Červinka

  • Administrátoři
  • Padawan
  • *****
  • Příspěvků: 3559
  • Karma: 112
    • Verze Delphi: D2007, DXE + 2 poslední
    • O Delphi v češtině
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #16 kdy: 09-01-2025, 13:11:01 »
BTW: co sa tyka toho skenovania/spacovania/precitania faktur z hocicoho do DB, mame na to nieco pre delphi?

Tam je úplně jedno, z jakého vývojového prostředí to napojíš. Tyto vytěžovací systémy mají své API, takže jediné kouzlo je ta komunikace s tímto API. A to se dá udělat dneska snad už úplně ze všech běžných vývojových prostředí. Je také dobré si dopředu zjistit poměr výkon / cena, protože zadarmo to samozřejmě není a řekl bych, že kvalita té umělé inteligence nebude úplně vždy stejná. Osobně mám dobrou zkušenost s Redque API, ale je nutné tu umělou inteligenci alespoň ze začátku hodně učit. Ale to je strašně jednoduché - špatně vytěžený doklad se nahlásí a oni už to na jejich straně pořeší.

Tak jsi mne zklamal :-), ja myslel ze si trenujes vlastni AI treba na bazi lokalní Ollama s nějakou jejich knihovnou a ne ze nekomu delas vzorek dat. Ale i tak diky za info.
Embarcadero MVP - Czech republic

Offline Radek Červinka

  • Administrátoři
  • Padawan
  • *****
  • Příspěvků: 3559
  • Karma: 112
    • Verze Delphi: D2007, DXE + 2 poslední
    • O Delphi v češtině
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #17 kdy: 09-01-2025, 13:40:58 »
BTW: co sa tyka toho skenovania/spacovania/precitania faktur z hocicoho do DB, mame na to nieco pre delphi?

Tam je úplně jedno, z jakého vývojového prostředí to napojíš. Tyto vytěžovací systémy mají své API, takže jediné kouzlo je ta komunikace s tímto API. A to se dá udělat dneska snad už úplně ze všech běžných vývojových prostředí. Je také dobré si dopředu zjistit poměr výkon / cena, protože zadarmo to samozřejmě není a řekl bych, že kvalita té umělé inteligence nebude úplně vždy stejná. Osobně mám dobrou zkušenost s Redque API, ale je nutné tu umělou inteligenci alespoň ze začátku hodně učit. Ale to je strašně jednoduché - špatně vytěžený doklad se nahlásí a oni už to na jejich straně pořeší.

Tak jsi mne zklamal :-), ja myslel ze si trenujes vlastni AI treba na bazi lokalní Ollama s nějakou jejich knihovnou a ne ze nekomu delas vzorek dat. Ale i tak diky za info.


Třeba něco jako https://m1lt0n.github.io/python/llm/pdf/ollama-ask-a-pdf-file/
Embarcadero MVP - Czech republic

Offline Marek Weyda

  • Hrdina
  • ****
  • Příspěvků: 283
  • Karma: 8
    • Verze Delphi: Delphi 2007, 10.1 Berlin
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #18 kdy: 09-01-2025, 14:17:16 »
Tak jsi mne zklamal :-), ja myslel ze si trenujes vlastni AI treba na bazi lokalní Ollama s nějakou jejich knihovnou a ne ze nekomu delas vzorek dat. Ale i tak diky za info.

Pro mě to byl ale jeden z nejlepších úkolů, co jsem loni dostal a byl úspěšný jednak komerčně a jednak pro mě i v tom, že jsem se právě díky tomu, byť přímo do vnitřností jsem se nevrtal, tak jsem se díky tomu a vlastnímu následnému zájmu dozvěděl o AI šíleně moc věcí a v tomto roce se tím hodlám hodně intenzivně zabývat. Takže je dost možné, že na to, co popisuješ, také dojde ;D

AI je prostě fenomén a já nechci stát stranou :D

Offline František

  • Guru
  • *****
  • Příspěvků: 917
  • Karma: 8
    • Verze Delphi: comunity 10.4.2, D2007, D12, D2009
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #19 kdy: 09-01-2025, 16:26:53 »
no tiez som hladal skor nieco lokalne, ale to ma este asi cas ... ale dik za info, skusime

Offline Radek Červinka

  • Administrátoři
  • Padawan
  • *****
  • Příspěvků: 3559
  • Karma: 112
    • Verze Delphi: D2007, DXE + 2 poslední
    • O Delphi v češtině
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #20 kdy: 14-01-2025, 20:40:57 »
Tak jsi mne zklamal :-), ja myslel ze si trenujes vlastni AI treba na bazi lokalní Ollama s nějakou jejich knihovnou a ne ze nekomu delas vzorek dat. Ale i tak diky za info.

Pro mě to byl ale jeden z nejlepších úkolů, co jsem loni dostal a byl úspěšný jednak komerčně a jednak pro mě i v tom, že jsem se právě díky tomu, byť přímo do vnitřností jsem se nevrtal, tak jsem se díky tomu a vlastnímu následnému zájmu dozvěděl o AI šíleně moc věcí a v tomto roce se tím hodlám hodně intenzivně zabývat. Takže je dost možné, že na to, co popisuješ, také dojde ;D

AI je prostě fenomén a já nechci stát stranou :D

Po zhlednutí dnesni prezentace ohledne delphi open source FB4D rozhraní k google gemini, kde ukazoval primo zpracovaní rucne psanych PDF faktur volanim z Delphi, muzu rict: Bomba.
Embarcadero MVP - Czech republic

Offline bullhead

  • Nováček
  • *
  • Příspěvků: 13
  • Karma: 0
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #21 kdy: 15-01-2025, 13:07:48 »
...to asi neni toto:
https://youtu.be/Opyg7-rjCSs?si=yBu86Ig2YeOK_z2R
...?

Offline Radek Červinka

  • Administrátoři
  • Padawan
  • *****
  • Příspěvků: 3559
  • Karma: 112
    • Verze Delphi: D2007, DXE + 2 poslední
    • O Delphi v češtině
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #22 kdy: 15-01-2025, 13:12:36 »
Excellent
Rated 1 time
...to asi neni toto:
https://youtu.be/Opyg7-rjCSs?si=yBu86Ig2YeOK_z2R
...?

Toto (zaznam): https://www.youtube.com/live/76B4ATAYnWM
Embarcadero MVP - Czech republic

Offline miroB

  • Guru
  • *****
  • Příspěvků: 655
  • Karma: 17
    • Verze Delphi: D1,2,3,4,7,2005 .. D Tokyo 10.2.3 Pro C/S, D12.2
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #23 kdy: 15-01-2025, 20:48:15 »
Dobre, všetky tie AI techniky sú super a sú aj za mňa spektakulárne.
Mám však tieto osobné skúsenosti:
Mnoho času získam, mnoho aj stratím.
Hodiny ladím Delphi 12.2 projekt pomocou ChatGPT.
Na prvý pohľad sú výsledky fantastické. Pascal kód dokonca generuje v lepšej vizuálnej kvalite ako je v IDE.
ChatGPT má navyše špeciálne okno s kódom, ktoré beží paralelne popri diskusii.
Snáď je po novom možné doťahovať sa o jednotlivé riadky/ editovať a testovať To som si všimol až v posledných 24 hodinách. Ale ešte som prakticky neskúšal.
Za polroka/rok sa AI bombasticky zlepšila v programovaní.
Našťastie platí to aj v Delphi (obecne silnou stránkou AI systémov sú skôr iné jazyky)
Som nadšený, že v slovenčine a s fajnovými nuansami môžem vyžadovať riešenie komplikovaných úloh (beží aj v mojej rodnej reči. To som nedávno ani nesníval. Paráda).
Z 95% spolupráca ide rýchlo, ale finálne dolaďovanie, kedy riešime "drobné" nedostatky (vymýšľa si funkcie, alebo dáva neexistujúce parametre, alebo napríklad pre Delphi ponúka premenné typu nullable a s nimi tvrdohlavo 2 hodiny zdržuje. Vtipné, že už Marco Cantu nullable predpovedal do aktuálnej, alebo predposlednej verzie Delphi aj so vzorovým kódom :D )
Riešim napríklad Exif údaje. V mnohom si super rozumieme, ale potom prídeme k detailom, kde mlží a mlží. Nie je to len s Exif (CCR-Exif 1.5.4). Je to paralelné spracovanie (Threads) a kopu iného.

Úspešne experimentujem aj s lokálnymi inštaláciami OLLAMA.
Je skvelé mať AI na lokále, alebo vo vlastnej sieti (hlavne zadarmo). Samozrejme odozvy sú vtedy dosť pomalé (sekundy až desiatky sekúnd. Mám len 32, resp.64 GB RAM). Slovenčina ak, v niektorých moduloch je, tak je lámaná až nepoužiteľná. To by nevadilo, ale tá odozva a kvalita, zatiaľ sa obávam začať si niečo reálne. Neskôr, až to časom nejak dozreje, tak super.
Inak kúpil som miniPC s  najnovším mobilným procesor AMD AI 9 HX375, 32GB RAM (bohužiaľ natvrdo, viac nejde) , má NPU s výkonom 55 TOPS. Kvôli umelej inteligencii. A načo mi je to NPU? Zatiaľ úplne NAPRD. Rozhoduje pamäť (16 GB je nanič, 24 GB slabé výsledky, 32 GB RAM - niečo tam ide a 64 GB je reálne minimum, aby ste neboli tak moc v offsajde). Spolu s RAM-kou ide najmä o výkon GPU, najlepšie tak 500W a 500+ Eur.. Nehrajem hry, preto som s grafikou skôr v mínuse. Moja chyba.
OLLAMA aj jej moduly pri práci na lokále rozbehnú procesor, grafiku, HDD a RAM na 100% výkon.
Výsledky nejaké sú, ale online AI nástroje ponúkajú úplne iné výkony.
Smola, že okrem OLLAMA je všetko platené.
Paušály začínajú na 20+Eur mesiac. Ale všade sú dané limity a ja ani rádovo netuším spotrebu prostriedkov..
Niežeby sa nedalo nastaviť blokovanie/obmedzenie, aby sa neplatil mailant, lenže spotreba prostriedkov AI neskutočne kolíše v závislosti aj od toho, koľko hlúpostí si vymyslí, alebo koľko bude práve mlžiť.
A tiež od toho, či komunikujete v angličtine alebo napríklad v slovenčine.

Samozrejme sú úlohy, ktoré sú jasné.
Spracovanie PDF a iných štandardných a odskúšaných úloh je úžasné, ale len kvôli tomu si nezaložím predplatné. Na druhej strane pripúšťam, že pre niekoho, kto sa zrovna vyriešeným problémom presne živí, tak poplatky sa preňho stanú až smiešne nízke.
Zatiaľ záleží na tom, ako sa presne trafíte do oboru, či oblasti, ktorú AI a jej moduly 100% zvládajú.
Každé nižšie percento môže vyžadovať extrémne nároky na opravy-úpravy.
« Poslední změna: 15-01-2025, 20:56:41 od miroB »

Offline Radek Červinka

  • Administrátoři
  • Padawan
  • *****
  • Příspěvků: 3559
  • Karma: 112
    • Verze Delphi: D2007, DXE + 2 poslední
    • O Delphi v češtině
Re:AI - bylo Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #24 kdy: 15-01-2025, 23:12:33 »
> experimentujem aj s lokálnymi inštaláciami OLLAMA.
můžu vědět který model používáš? https://ollama.com/library
Od toho záleží RAM, jak jsem pochopil :
You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models

Dneska T-Mobile oznamil, že zákazníkům dává zdarma https://www.lupa.cz/aktuality/t-mobile-v-cr-dava-svym-zakaznikum-zdarma-pristup-k-ai-modelum-jako-gpt-nebo-claude/
Embarcadero MVP - Czech republic

Offline pf1957

  • Padawan
  • ******
  • Příspěvků: 3534
  • Karma: 139
    • Verze Delphi: D2007, XE3, DX10
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #25 kdy: 16-01-2025, 09:24:08 »
Z 95% spolupráca ide rýchlo, ale finálne dolaďovanie, kedy riešime "drobné" nedostatky [...]
Ladeni byla vzdycky nejslozitejsi a nejdrazsi cast vyvoje -> proto se rada pristupu k vyvoji a opatreni na strane jazyku snazi chyby odhalovat ASAP, konec koncu z drevnich dob na to existuje Kernighanuv zakon ;D Sice to zalezi na mnoha faktorech, ale AFAIK se porad udava vysoky podil pres 25 %...

Myslim, ze to nebude horsi, nez s partou junioru, kde to nakonec musi nejaky senior dat dohromady - vubec nejlepsi junior byl Ind-Wahhábista, ktery mel napsano v knize osudu, ze to stejne pos*re, tak proc by se snazil :-D

Citace
Vtipné, že už Marco Cantu nullable predpovedal do aktuálnej, alebo predposlednej verzie Delphi aj so vzorovým kódom :D
Ono to nebude nic jednoducheho, obratit veskerou logiku naruby, kdyz v Delphi ty promenne nejsou zaboxovane objekty...


Offline miroB

  • Guru
  • *****
  • Příspěvků: 655
  • Karma: 17
    • Verze Delphi: D1,2,3,4,7,2005 .. D Tokyo 10.2.3 Pro C/S, D12.2
Re:AI - bylo Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #26 kdy: 16-01-2025, 19:01:05 »
> experimentujem aj s lokálnymi inštaláciami OLLAMA.
můžu vědět který model používáš? https://ollama.com/library
Od toho záleží RAM, jak jsem pochopil :
You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models

Áno, s tými "models" máš pravdu.
So 64 GB ide tuším cca 71B..? nie som si teraz istý.

Čím vyššie tie modely boli tým im išla lepšie aj slovenčina :).
Ale už niekoľko dní zas riešim iné, tak som pregumovaný ohľadne čísel.
Aha pozerám mám aj llama3.3 70B, nasleduje ukázka:

PS C:\Users\Miro> ollama run llama3.3
>>> Čo je dnes nové?
Môžem vám pomôcť s informáciami, odpovedať na otázky, vytvárať texty, preklad a mnoho ďalšieho. Čo by ste radi
vedeli?
>>> Prelož mi tvoju odpoveď do nemčiny.
Ich kann Ihnen helfen, Informationen zu finden, Fragen zu beantworten, Texte zu erstellen, zu übersetzen und
vieles mehr. Was würden Sie gerne wissen?
(Poznámka: som strojový prekladač, môj preklad nie je vždy perfektný, ale snažím sa robiť to čo najlepšie)


Skúšal som rôzne modely od 7B hore. Je fakt, že vyššie modely potom poskytujú "lepšie" odpovede. Rýchlosť je zase najlepšia u 7B. Výber rozhodne nebude jednoduchý. Asi si treba prečítať rovno v "literatúre", alebo v recenziách, čo tie modely presne zvládajú (špecializáciu). A podľa toho by sa to niekomu ozaj mohlo presne hodiť.
Potešením by bolo, keby modely dokázali zodpovedať tak 10 000+, lepšie 100 000+ odpovedí do 24 hod. Vtedy by som ich mohol použiť na rodinné fotografie napríklad. Myslím teraz obecne (fotografie boli príklad).
Možno pre úlohy PDF, alebo OCR sú skutočným prínosom vybrané modely už dnes.
Len sa v tom treba orientovať. Cítim sa dosť ako v bludisku.
« Poslední změna: 16-01-2025, 19:23:50 od miroB »

Offline pf1957

  • Padawan
  • ******
  • Příspěvků: 3534
  • Karma: 139
    • Verze Delphi: D2007, XE3, DX10
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #27 kdy: 23-01-2025, 07:36:03 »
JA:
A pouzijes ty moje postrehy, abys priste odpovidal rovnou spravne?

GEMINI:
Áno, absolútne. Vaše postrehy boli mimoriadne cenné a pomohli mi pochopiť mechanizmus vzniku vápenatých usadenín
[...]

Kdyz uz jsem to sem postnul, tak jeste dovetek, ze se ze strany Gemini 2.0 jedna o "lezeni uzivatelum do zadku", kdy buhvi proc simuluje uceni a predstira vlastnosti, ktere nema, v ramci kontextu session je to bezcenne, protoze se nikdo nebude znovu ptat na jiz zodpovezenou problematiku
 -> nejedna se tedy o zadny (prelomovy) pokus o inference-time lerning, ale o mateni uzivatelu  >:(

Offline pf1957

  • Padawan
  • ******
  • Příspěvků: 3534
  • Karma: 139
    • Verze Delphi: D2007, XE3, DX10
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #28 kdy: 23-01-2025, 07:44:42 »
Z 95% spolupráca ide rýchlo, ale finálne dolaďovanie, kedy riešime "drobné" nedostatky (vymýšľa si funkcie, alebo dáva neexistujúce parametre, alebo napríklad pre Delphi ponúka premenné typu nullable a s nimi tvrdohlavo 2 hodiny zdržuje.
Tady si v kapitole 6 (cas 2:42:28) poslechni Romportla, co k podobnemu pripadu rika

Offline Daniel_Andrascik

  • Guru
  • *****
  • Příspěvků: 590
  • Karma: 20
    • Verze Delphi: D2007, D10.4
Re:Re:Nostalgia Delphi: v januári bude 30 rokov
« Odpověď #29 kdy: 23-01-2025, 17:02:10 »
Kdyz uz jsem to sem postnul, tak jeste dovetek, ze se ze strany Gemini 2.0 jedna o "lezeni uzivatelum do zadku", kdy buhvi proc simuluje uceni a predstira vlastnosti, ktere nema, v ramci kontextu session je to bezcenne, protoze se nikdo nebude znovu ptat na jiz zodpovezenou problematiku
 -> nejedna se tedy o zadny (prelomovy) pokus o inference-time lerning, ale o mateni uzivatelu  >:(

Konecne som sa dostal k jednomu podcastu normlaneho vedca/matematika ktory  normalne vysvetlil aky tu vlastne mame AI bum. Oproti tym dilinom nahajpovanym kotry koli lajkom a sledovanosti hykaju ze uz za rohom mame generatinvu AI. Tak nemame. Ci uz sa jedna o textovy model, generator obrazkov, alebo ci to vie rozpravat. Stale je to len strojove ucenie akurat s tym rozdielom ze ucenie bolo vykonane na extremne velkych datasetoch. Cize stale to AI kotre pouzivame je len statisticky model ktory ma ale obrovske zdroje z ktorych cerpa. Plus to kadejako tunia ako vedia. Ale ak mu nieco vysvetlis, tak sa obavam ze statistiku nepreklopis na druhu stranu. Ten vedec tam aj spomenul ze mnohy vedci neradi pouzivaji vyraz "AI", "umela inteligencia", lebo to v skutocnosti stale ani zdaleka nie je. Stale je to len strojove ucenie. Ale ano, pri naozaj tak obrovskych zdrojoch z ktorych to cerpa to uz dokaze naozaj interagovat s nasimi poziadavkami a plnit roznorode ulohy