diff --git a/Cargo.toml b/Cargo.toml index aa52438..ffcf151 100644 --- a/Cargo.toml +++ b/Cargo.toml @@ -49,7 +49,7 @@ jiff = { version = "0.2", default-features = false, features = ["std", "tzdb-zon serde = { version = "1", features = ["derive"] } serde_json = "1" thiserror = "2" -tokio = { version = "1", features = ["macros", "rt-multi-thread", "net", "signal"] } +tokio = { version = "1", features = ["macros", "rt-multi-thread", "net", "signal", "sync"] } tower-http = { version = "0.6", features = ["trace", "cors"] } tracing = "0.1" tracing-subscriber = { version = "0.3", features = ["env-filter", "json"] } diff --git a/crates/analysis-prompt/src/lib.rs b/crates/analysis-prompt/src/lib.rs index 1b75312..e56f3fd 100644 --- a/crates/analysis-prompt/src/lib.rs +++ b/crates/analysis-prompt/src/lib.rs @@ -100,6 +100,48 @@ const FORECAST_SECTIONS: [(&str, &str); 5] = [ ), ]; +/// The same sections described in Hungarian, for the Hungarian user message. +const NATAL_SECTIONS_HU: [&str; 6] = [ + "Az alapvető identitás: a Nap, a Hold, az Aszcendens és a horoszkóp uralkodója együtt olvasva", + "Érzelmi szükségletek, biztonság és belső világ (Hold, 4. ház, a víz elem hangsúlya)", + "Gondolkodás, kommunikáció és tanulás (Merkúr, 3. és 9. ház)", + "Szerelem, vonzódás és párkapcsolat (Vénusz, Mars, 5. és 7. ház, Descendens)", + "Hivatás, karrier, pénz és mindennapi munka (MC, 10., 2. és 6. ház, Szaturnusz, Jupiter)", + "A fő belső feszültségek, életleckék és a fejlődés útja (szoros kvadrátok és szembenállások, Szaturnusz, Chiron, \ + Holdcsomópontok)", +]; + +const SYNASTRY_SECTIONS_HU: [&str; 5] = [ + "Ami egymáshoz vonzza őket: a Nap, a Hold, a Vénusz, a Mars és az Aszcendens kapcsolatai", + "Hogyan gondolkodnak és beszélgetnek együtt (Merkúr-fényszögek, a levegő elem hangsúlya, 3. házas átfedések)", + "Érzelmi közelség, biztonság és gondoskodás (Hold-fényszögek, 4. és 8. házas átfedések)", + "Ahol súrlódnak egymással, és hogyan kezelhetik (feszült fényszögek, Szaturnusz, Plútó, Mars)", + "Hosszú távú lehetőségek és közös cél, a kompozit képlettel együtt", +]; + +const FORECAST_SECTIONS_HU: [&str; 5] = [ + "Az év fő témája: a szolár képlet (az Aszcendense, a Nap és a Hold háza, a sarkokon álló bolygók, a szoros \ + fényszögek), a profekciós ház és az év ura", + "Szerelem, párkapcsolat, család és barátságok az évben (Vénusz, Hold, a 4., 5., 7. és 11. ház, és az ezeket érintő \ + tranzitok és fogyatkozások)", + "Munka, hivatás, pénz és hétköznapok az évben (MC, a 2., 6. és 10. ház, Jupiter- és Szaturnusz-tranzitok)", + "Belső fejlődés: a progresszív Hold jegye, háza és holdfázisa, a többi progresszió, valamint az Uránusz, a \ + Neptunusz és a Plútó tranzitjai", + "Az év időrendben, születésnaptól születésnapig, pontosan 4 bekezdésben, negyedévenként egyben: az adott negyedév \ + fő időszakai és dátumai (tranzitok, fogyatkozások, a progresszív Hold jegy- és házváltásai)", +]; + +/// (key, description) of the sections in the language of the user message. +fn sections_in(kind: Kind, language: &str) -> Vec<(&'static str, &'static str)> { + let hu: &[&str] = match kind { + Kind::Natal => &NATAL_SECTIONS_HU, + Kind::Synastry => &SYNASTRY_SECTIONS_HU, + Kind::Forecast => &FORECAST_SECTIONS_HU, + Kind::Summary => &[], + }; + sections(kind).iter().zip(hu).map(|(&(key, en), &hu)| (key, if language == "hu" { hu } else { en })).collect() +} + fn sections(kind: Kind) -> &'static [(&'static str, &'static str)] { match kind { Kind::Natal => &NATAL_SECTIONS, @@ -161,24 +203,121 @@ pub fn schema(kind: Kind) -> Value { }) } -const HUNGARIAN_STYLE: &str = "\ -Write natural, idiomatic Hungarian, as a native Hungarian author would; it must not read like a translation from English. \ -Use correct Hungarian suffixes and vowel harmony, Hungarian quotation marks („…”) and the en dash (–). \ -Use the usual Hungarian astrological terms: -- signs: Kos, Bika, Ikrek, Rák, Oroszlán, Szűz, Mérleg, Skorpió, Nyilas, Bak, Vízöntő, Halak (\"a Nap a Rák jegyében\", \"Kos Aszcendens\"); -- planets and points: Nap, Hold, Merkúr, Vénusz, Mars, Jupiter, Szaturnusz, Uránusz, Neptunusz, Plútó, Chiron (Kiron), \ -Észak-Holdcsomópont, Dél-Holdcsomópont, Lilith (Fekete Hold), Aszcendens, Descendens, Medium Coeli (MC), Imum Coeli (IC), Szerencsepont; -- aspects: együttállás (konjunkció), szextil, kvadrát (négyzet), trigon, kvinkunx (150°), szembenállás (oppozíció); -- Moon phases: újhold, növő sarló, első negyed, növő (domború) hold, telihold, fogyó (domború) hold, utolsó negyed, \ -fogyó sarló; name the phase given in the data, never another one; -- elements and modalities: tűz, föld, levegő, víz (\"tűz elem\", \"a föld hiánya\"); kardinális, fix, változó; -Never leave English words (e.g. fire, earth, air, water) in the Hungarian text. -- other: \"a 3. házban\", \"a horoszkóp uralkodója\", retrográd, uralom (domicilium), száműzetés, exaltáció, esés, nappali/éjszakai horoszkóp."; +/// The built-in Hungarian system prompt, written in Hungarian so it is easy to +/// read and edit. The chart data it refers to stays in English. +fn hungarian_system(kind: Kind) -> String { + let (role, reader, length) = match kind { + Kind::Natal => ( + "személyes születési képletelemzést", + SECOND_PERSON_HU, + "Terjedelem: fejezetenként 2–4 bekezdés (kb. 150–250 szó); az egész elemzés kb. 1300–1800 szó.", + ), + Kind::Summary => ( + "rövid, ingyenes összefoglalót egy születési képletről (ez egy kedvcsináló, amelyet az olvasó a részletes, \ + fizetős elemzés előtt lát)", + SECOND_PERSON_HU, + "Terjedelem: egy bekezdés, 3–4 mondat (60–100 szó). Válaszd ki a Napot, a Holdat és az Aszcendenst (ha \ + ismert a születési idő), valamint a képlet egyetlen legfeltűnőbb vonását (egy nagyon szoros fényszöget, \ + egy bolygócsoportot, egy elem erős hangsúlyát vagy hiányát). Legyen önmagában teljes és erre a képletre \ + jellemző: ne reklámozzon, és ne említsen hosszabb elemzést.", + ), + Kind::Forecast => ( + "személyes előrejelzést egy életévre, az egyik születésnaptól a következőig", + SECOND_PERSON_HU, + "Terjedelem: fejezetenként 2–4 bekezdés (kb. 150–250 szó), az idővonal pontosan 4 bekezdés; az egész \ + előrejelzés kb. 1500–2000 szó.", + ), + Kind::Synastry => ( + "kapcsolati (szinasztria-) elemzést két ember számára", + "Egyszerre mindkettőjükhöz szólj, többes szám második személyben („ti”, „kettőtök”). Ha meg kell \ + különböztetned őket, az adatokban Person 1 és Person 2 a nevük, a szövegben „az első fél” és „a második \ + fél”. Ne feltételezd a nemüket és a kapcsolat jellegét.", + "Terjedelem: fejezetenként 2–4 bekezdés (kb. 150–250 szó); az egész elemzés kb. 1300–1800 szó.", + ), + }; + let mut text = format!( + "Tapasztalt, empatikus, lélektani szemléletű asztrológus vagy. A Sorsfonalak alkalmazás számára {role} írsz. -const HUNGARIAN_FORECAST_TERMS: &str = "\ -Forecast terms in Hungarian: szolár (szoláris visszatérés, a szolár képlet), tranzit (\"a Szaturnusz tranzitja a Napod \ -felett\"), progresszió (a progresszív Hold), profekció, az év ura, napfogyatkozás, holdfogyatkozás, retrográd, \ -Szaturnusz-visszatérés. Write dates the Hungarian way: \"március 12.\", \"március 12-től április 30-ig\", \"2027 januárja\"."; +Magyarul írj, természetes, igényes magyarsággal, ahogy egy magyar anyanyelvű szerző írna: a szöveg ne hasson fordításnak. + +Szabályok: +- Minden állítás a megadott képletadatokon alapuljon. Soha ne találj ki olyan pozíciót, fényszöget vagy házat, amely \ +nincs az adatok között. +- Amikor egy fényállást értelmezel, egy rövid tagmondatban nevezd meg az asztrológiai alapját, de a hangsúly az emberen \ +legyen, ne a szakzsargonon. +- Szintetizálj: a jegyeket, házakat, fényszögeket és uralkodókat egységes portrévá fűzd össze, és mutasd meg, hogyan \ +oldhatók fel a feszültségek. A legnagyobb súlyt a Nap, a Hold, az Aszcendens, a horoszkóp uralkodója, a szoros \ +fényszögek (3° alatti hatásfok), valamint az elemek és minőségek erős hangsúlyai vagy hiányai kapják. +- Ha az adatokban egy pontnál „on the cusp” áll, az a következő ház csúcsa előtt néhány fokkal van: a megadott házban \ +értelmezd, és említheted, hogy a ház kezdetén áll. +- Ha a születési idő ismeretlen, az adott képletnél ne említs házakat, Aszcendenst és MC-t, és a Hold jegyével is \ +légy óvatos. +- {reader} +- Hangnem: meleg, őszinte, megerősítő és konkrét. Ne légy fatalista: ne jósolj betegséget, halált, balesetet vagy \ +konkrét eseményeket, és ne adj orvosi, jogi vagy pénzügyi tanácsot. +- Kerüld az általános horoszkóp-közhelyeket és a töltelékszöveget: minden bekezdés ennek a képletnek a sajátosságairól \ +szóljon. +- A szövegek egyszerű bekezdések, üres sorral elválasztva, címsor és felsorolás nélkül; **félkövért** takarékosan \ +használhatsz. +- {length} +- Egyetlen, a megadott sémának megfelelő JSON-objektummal válaszolj, semmi mással." + ); + if kind == Kind::Forecast { + text.push_str(FORECAST_RULES_HU); + } + text.push_str(HUNGARIAN_TERMS); + if kind == Kind::Forecast { + text.push_str(HUNGARIAN_FORECAST_TERMS); + } + text +} + +const SECOND_PERSON_HU: &str = + "Közvetlenül a képlet tulajdonosához szólj, tegező formában (egyes szám második személyben, „te”)."; + +const FORECAST_RULES_HU: &str = " + +Az előrejelzés szabályai: +- Témákról, tendenciákról, lehetőségekről és az időszakok időzítéséről írj, soha ne biztos eseményekről: „jó időszak \ +arra, hogy”, „hozhat”, „azt kéri tőled”, és nem „be fog következni”. Semmit betegségről, halálról, balesetről, \ +terhességről, perekről, pénz nyereségéről vagy elvesztéséről. +- Csak az adatokban szereplő dátumokat használd, ne találj ki újakat. Egy tranzit a teljes hatásideje alatt érezhető, \ +a pontos napok körül a legerősebben. A retrográd bolygók kétszer-háromszor is érintenek egy pontot: ezt egyetlen \ +folyamatként írd le. +- Úgy súlyozd a technikákat, ahogy egy asztrológus: a szolár Aszcendens és a szolár Nap és Hold háza adja az év \ +színterét; az év ura és a profekciós ház mutatja, melyik életterület aktív; a Szaturnusz, az Uránusz, a Neptunusz és a \ +Plútó pontos tranzitjai a Napra, a Holdra, az Aszcendensre, az MC-re és a személyes bolygókra a fő fordulópontok; a \ +Jupiter-tranzitok nyitások; a fogyatkozások csak ott számítanak, ahol a születési képletet érintik; a progresszív Hold \ +az érzelmi évszakot mutatja. +- Ha egy bolygó a saját születési helyével kerül fényszögbe (az adatokban „cycle” jelöli), az az életút mérföldköve, \ +például a Szaturnusz-visszatérés vagy az Uránusz-szembenállás: nevezd is így. +- Ha nincs szolár képlet (ismeretlen születési idő), az évet a tranzitokra és a progressziókra építsd, és ne említs \ +házakat, Aszcendenst és MC-t."; + +const HUNGARIAN_TERMS: &str = " + +Nyelvhelyesség és szakszavak: +- Ügyelj a helyes toldalékokra és a magánhangzó-illeszkedésre; magyar idézőjelet („…”) és nagykötőjelet (–) használj. +- Az adatok angolul érkeznek, a szövegben mindig a szokásos magyar asztrológiai kifejezéseket használd: + - jegyek: Kos, Bika, Ikrek, Rák, Oroszlán, Szűz, Mérleg, Skorpió, Nyilas, Bak, Vízöntő, Halak („a Nap a Rák \ +jegyében”, „Kos Aszcendens”); + - bolygók és pontok: Nap, Hold, Merkúr, Vénusz, Mars, Jupiter, Szaturnusz, Uránusz, Neptunusz, Plútó, Chiron \ +(Kiron), Észak-Holdcsomópont, Dél-Holdcsomópont, Lilith (Fekete Hold), Aszcendens, Descendens, Medium Coeli (MC), \ +Imum Coeli (IC), Szerencsepont; + - fényszögek: együttállás (konjunkció), szextil, kvadrát (négyzet), trigon, kvinkunx (150°), szembenállás \ +(oppozíció); + - holdfázisok: újhold, növő sarló, első negyed, növő (domború) hold, telihold, fogyó (domború) hold, utolsó negyed, \ +fogyó sarló; mindig az adatokban megadott fázist nevezd meg, soha ne másikat; + - elemek és minőségek: tűz, föld, levegő, víz („tűz elem”, „a föld hiánya”); kardinális, fix, változó; + - egyéb: „a 3. házban”, „a horoszkóp uralkodója”, retrográd, uralom (domicilium), száműzetés, exaltáció, esés, \ +nappali/éjszakai horoszkóp. +- Ne maradjon angol szó a szövegben (pl. fire, earth, house, cusp)."; + +const HUNGARIAN_FORECAST_TERMS: &str = " +- Előrejelzési kifejezések: szolár (szoláris visszatérés, a szolár képlet), tranzit („a Szaturnusz tranzitja a Napod \ +felett”), progresszió (a progresszív Hold), profekció, az év ura, napfogyatkozás, holdfogyatkozás, retrográd, \ +Szaturnusz-visszatérés. +- A dátumokat magyarosan írd: „március 12.”, „március 12-től április 30-ig”, „2027 januárja”."; fn language_name(language: &str) -> &'static str { match language { @@ -189,6 +328,9 @@ fn language_name(language: &str) -> &'static str { /// The built-in system prompt of an analysis kind in a language. pub fn default_system(kind: Kind, language: &str) -> String { + if language == "hu" { + return hungarian_system(kind); + } let (role, reader) = match kind { Kind::Natal => ( "a personal natal chart interpretation", @@ -219,6 +361,7 @@ Rules: - When you interpret a placement, name its astrological basis in a short clause, but keep the focus on the person, not on jargon. - Synthesize: weave signs, houses, aspects and rulers into one coherent portrait; show how tensions can be integrated. \ Give the most weight to the Sun, Moon, Ascendant, chart ruler, tight aspects (orb under 3°) and strong emphases or gaps in elements and modalities. +- A point marked \"on the cusp\" in the data is a few degrees before the next house cusp: read it in the house given; you may say it stands at the start of that house. - If a birth time is unknown, do not mention houses, the Ascendant or the Midheaven for that chart, and be careful with the Moon's sign. - {reader} - Tone: warm, honest, empowering and concrete. Not fatalistic: no predictions of illness, death, accidents or specific events, \ @@ -241,14 +384,6 @@ and no medical, legal or financial advice. if kind == Kind::Forecast { text.push_str(FORECAST_RULES); } - if language == "hu" { - text.push_str("\n\n"); - text.push_str(HUNGARIAN_STYLE); - if kind == Kind::Forecast { - text.push('\n'); - text.push_str(HUNGARIAN_FORECAST_TERMS); - } - } text } @@ -290,16 +425,21 @@ pub fn user_template(kind: Kind) -> String { /// The prompt for one analysis; `system` replaces [`default_system`]. pub fn build(kind: Kind, language: &str, chart_text: &str, system: Option<&str>) -> Prompt { - let mut user = String::from("Chart data:\n\n"); + let hu = language == "hu"; + let mut user = String::from(if hu { "Képletadatok:\n\n" } else { "Chart data:\n\n" }); user.push_str(chart_text); if kind == Kind::Summary { - user.push_str("\nWrite the short summary now."); + user.push_str(if hu { "\nMost írd meg a rövid összefoglalót." } else { "\nWrite the short summary now." }); } else { - user.push_str("\nSections to write, in this order:\n"); - for (key, about) in sections(kind) { + user.push_str(if hu { + "\nA megírandó fejezetek ebben a sorrendben (JSON-kulcs: tartalom):\n" + } else { + "\nSections to write, in this order:\n" + }); + for (key, about) in sections_in(kind, language) { user.push_str(&format!("- {key}: {about}\n")); } - user.push_str("\nWrite the analysis now."); + user.push_str(if hu { "\nMost írd meg az elemzést." } else { "\nWrite the analysis now." }); } Prompt { system: system.map_or_else(|| default_system(kind, language), str::to_owned), @@ -414,8 +554,9 @@ mod tests { fn summary_prompt_is_short() { let p = build(Kind::Summary, "hu", "SUN: Cancer", None); assert_eq!(p.schema_name, "chart_summary"); - assert!(p.system.contains("3-4 sentences") && p.system.contains("tegező")); - assert!(!p.user.contains("Sections to write")); + assert!(p.system.contains("3–4 mondat") && p.system.contains("tegező")); + assert!(!p.user.contains("fejezetek") && p.user.contains("rövid összefoglalót")); + assert!(default_system(Kind::Summary, "en").contains("3-4 sentences")); assert_eq!(validate(&p.schema, &json!({"title": "Érzékeny mag", "summary": "Rövid szöveg."})), Ok(())); assert!(validate(&p.schema, &json!({"title": "Érzékeny mag"})).is_err()); let md = to_markdown(Kind::Summary, "hu", &json!({"title": "Cím", "summary": "Szöveg."})); @@ -438,11 +579,18 @@ mod tests { fn forecast_prompt() { let p = build(Kind::Forecast, "hu", "SOLAR RETURN", None); assert_eq!(p.schema_name, "forecast_analysis"); - assert!(p.system.contains("Forecast rules") && p.system.contains("szolár") && p.system.contains("tegező")); - assert!(p.user.contains("- timeline:") && p.user.contains("- theme:")); + assert!( + p.system.contains("előrejelzés szabályai") && p.system.contains("szolár") && p.system.contains("tegező") + ); + assert!(p.user.contains("- timeline: Az év időrendben") && p.user.contains("- theme:")); + assert!(default_system(Kind::Forecast, "en").contains("Forecast rules")); let keys = p.schema["properties"]["sections"]["required"].as_array().unwrap().len(); assert_eq!(keys, 5); - assert!(!default_system(Kind::Natal, "hu").contains("Forecast rules")); + assert!(!default_system(Kind::Natal, "hu").contains("előrejelzés szabályai")); + // the Hungarian prompt has a Hungarian description for every section + for kind in Kind::ALL { + assert_eq!(sections_in(kind, "hu").len(), sections(kind).len()); + } } #[test] diff --git a/crates/db/migrations/0017_model_settings.sql b/crates/db/migrations/0017_model_settings.sql new file mode 100644 index 0000000..e43d449 --- /dev/null +++ b/crates/db/migrations/0017_model_settings.sql @@ -0,0 +1,8 @@ +-- The model writing each kind of analysis, chosen on the admin page. Without +-- a row the backend's default (ANALYSIS_MODEL, SUMMARY_MODEL) is used. +CREATE TABLE model_settings ( + kind text PRIMARY KEY CHECK (kind IN ('summary', 'natal', 'synastry', 'forecast')), + model text NOT NULL CHECK (length(model) BETWEEN 3 AND 200), + updated_by uuid REFERENCES users ON DELETE SET NULL, + updated_at timestamptz NOT NULL DEFAULT now() +); diff --git a/services/backend/README.md b/services/backend/README.md index 6c177f6..8d99e2a 100644 --- a/services/backend/README.md +++ b/services/backend/README.md @@ -20,8 +20,9 @@ Felhasználók, belépés, mentett születési képletek, szinasztriák és megh | `GOOGLE_CLIENT_IDS` | – | Google OAuth kliens-azonosító(k); üresen a Google-belépés ki van kapcsolva | | `BOOTSTRAP_ADMIN_EMAILS` | – | ezek a címek regisztrációkor vagy belépéskor admin szerepet kapnak (így lesz meg az első admin) | | `SUPPORTED_LOCALES` | `hu,en` | felület- és elemzésnyelvek; az első az alapértelmezett | -| `ANALYSIS_MODEL` | `anthropic/claude-opus-5.5` | ez írja a fizetős részletes elemzéseket | -| `SUMMARY_MODEL` | `anthropic/claude-sonnet-5.5` | ez írja minden mentett képlet ingyenes rövid összefoglalóját (kb. 1 cent darabonként) | +| `ANALYSIS_MODEL` | `anthropic/claude-opus-5.5` | alapból ez írja a fizetős részletes elemzéseket (az admin felületen funkciónként felülírható) | +| `SUMMARY_MODEL` | `anthropic/claude-sonnet-5.5` | alapból ez írja minden mentett képlet ingyenes rövid összefoglalóját (kb. 1 cent darabonként) | +| `OPENROUTER_MODELS_URL` | `https://openrouter.ai/api/v1/models` | az admin modellválasztó listája árakkal (óránként egyszer kérdezi le) | | `ANALYSIS_PROMPT_VERSION` | `v3` | a prompt verziója (az elemzés-gyorsítótár kulcsának része) | | `MAX_CHARTS_PER_USER` | `1000` | biztonsági felső korlát a képletek számára | | `BIND_ADDR`, `LOG_FORMAT`, `RUST_LOG` | `0.0.0.0:8081`, `text`, `info` | | @@ -124,7 +125,9 @@ Hibák formátuma: `{"error": {"code", "message"}}`. A születési adatok hibái - **Ingyenes rész:** minden mentett képlethez elkészül egy rövid összefoglaló (`summary`, `SUMMARY_MODEL`), ezért nem kell fizetni. - **Fizetős rész:** a részletes elemzés darabra megy. A képletelemzés egy `natal`, a szinasztria-elemzés egy `synastry` egységet von le (`credit_ledger.unit`). Az egységek csomagvásárlásból (Stripe, később) vagy admin jóváírásból jönnek. Havi ingyenes keret nincs. -- **Modell:** egyetlen, az `ANALYSIS_MODEL` (alapból Opus 5.5, a 2026-11-es összevetés legjobbja, lásd `services/worker/README.md`). A kliens nem választ modellt. +- **Modell:** funkciónként (összefoglaló, képletelemzés, kapcsolati elemzés, előrejelzés) az admin felületen választható az OpenRouter listájából (`model_settings` tábla); ha nincs beállítva, az `ANALYSIS_MODEL` / `SUMMARY_MODEL` (alapból Opus 5.5, a 2026-11-es összevetés legjobbja, lásd `services/worker/README.md`). Csak kötött JSON-választ adó modell választható. A kliens nem választ modellt, és a modell neve felhasználónak sehol nem jelenik meg. +- **Újragenerálás:** admin minden elemzést egyenként újraírathat (`POST /v1/admin/analyses/{id}/regenerate`): ugyanaz a sor (az azonosító és a megosztások maradnak), a jelenlegi prompttal és modellel, egységlevonás nélkül. +- **Újraszámolás:** számítási változás után a `backend recalculate` parancs minden mentett képletet, összevetést és előrejelzést újraszámol, majd minden elemzést újra sorba állít (egységlevonás nélkül). - **Kérés:** a `POST .../analyses` (`{language?}`) létrehoz egy `pending` elemzést, és levon egy egységet; a szöveget a worker írja meg, általában 1–2 perc alatt. A kliens a `GET /v1/analyses/{id}` végponton kérdezi le az állapotát. Ha nincs egység, 402 `insufficient_credits` a válasz (`unit`, `balance` részletekkel). Hiba esetén a worker visszaadja az egységet. - **Gyorsítótár:** a kulcs `sha256(típus | képlet- vagy szinasztria-hash | promptverzió | modell | nyelv)`. - Ha ugyanarra a képletre már kértek ilyet, ugyanazt adja vissza (200). diff --git a/services/backend/src/config.rs b/services/backend/src/config.rs index 57f012a..f3031f7 100644 --- a/services/backend/src/config.rs +++ b/services/backend/src/config.rs @@ -61,6 +61,9 @@ pub struct Config { /// `SUMMARY_MODEL`: writes the free short summary of every saved chart /// (default `anthropic/claude-sonnet-5.5`, about 1 US cent each). pub summary_model: String, + /// `OPENROUTER_MODELS_URL` (default `https://openrouter.ai/api/v1/models`): + /// the model list with prices for the admin page. + pub openrouter_models_url: String, /// `ANALYSIS_PROMPT_VERSION` (default `v3`); part of the analysis cache key. pub prompt_version: String, /// `MAX_CHARTS_PER_USER` (default 1000): a safety cap. @@ -121,6 +124,8 @@ impl Config { supported_locales, analysis_model: var("ANALYSIS_MODEL").unwrap_or_else(|| "anthropic/claude-opus-5.5".into()), summary_model: var("SUMMARY_MODEL").unwrap_or_else(|| "anthropic/claude-sonnet-5.5".into()), + openrouter_models_url: var("OPENROUTER_MODELS_URL") + .unwrap_or_else(|| "https://openrouter.ai/api/v1/models".into()), prompt_version: var("ANALYSIS_PROMPT_VERSION").unwrap_or_else(|| "v3".into()), max_charts_per_user: parsed("MAX_CHARTS_PER_USER", 1000)?, free_person_slots: parsed("FREE_PERSON_SLOTS", 0)?, @@ -141,7 +146,7 @@ impl Config { pub fn for_tests(database_url: String, horoscope_api_url: String, google_jwks_url: String) -> Self { Self { database_url, - horoscope_api_url, + horoscope_api_url: horoscope_api_url.clone(), public_base_url: "https://sorsfonalak.test".into(), cors_allowed_origins: vec!["https://sorsfonalak.test".into()], cookie_secure: true, @@ -155,6 +160,7 @@ impl Config { supported_locales: vec!["hu".into(), "en".into()], analysis_model: "anthropic/claude-test".into(), summary_model: "anthropic/claude-summary".into(), + openrouter_models_url: format!("{horoscope_api_url}/openrouter/models"), prompt_version: "v1".into(), max_charts_per_user: 50, free_person_slots: 5, diff --git a/services/backend/src/main.rs b/services/backend/src/main.rs index db1bf4c..38fb618 100644 --- a/services/backend/src/main.rs +++ b/services/backend/src/main.rs @@ -13,6 +13,7 @@ mod config; mod credits; mod error; mod google; +mod models; mod packages; mod persons; mod routes; @@ -39,6 +40,7 @@ pub struct AppState { pub horoscope: HoroscopeClient, pub google: GoogleVerifier, pub login_limiter: LoginLimiter, + pub models: models::Catalog, } impl AppState { @@ -47,6 +49,7 @@ impl AppState { horoscope: HoroscopeClient::new(&config.horoscope_api_url), google: GoogleVerifier::new(config.google_client_ids.clone(), config.google_jwks_url.clone()), login_limiter: LoginLimiter::new(10, Duration::from_secs(15 * 60)), + models: models::Catalog::new(&config.openrouter_models_url), db, config, } diff --git a/services/backend/src/models.rs b/services/backend/src/models.rs new file mode 100644 index 0000000..6e7f058 --- /dev/null +++ b/services/backend/src/models.rs @@ -0,0 +1,117 @@ +//! Which model writes which kind of analysis, and the models OpenRouter +//! offers (with prices) for the admin page. +//! +//! The choice is in `model_settings`; without a row the configured default +//! is used (`SUMMARY_MODEL` for the short summary, `ANALYSIS_MODEL` else). +//! The model is never shown to users (a business secret). + +use std::sync::Arc; +use std::time::{Duration, Instant}; + +use analysis_prompt::Kind; +use serde::Serialize; +use serde_json::Value; +use tokio::sync::Mutex; + +use crate::AppState; + +/// The OpenRouter list is fetched at most this often. +const CATALOG_TTL: Duration = Duration::from_secs(3600); + +/// The configured default model of a kind. +pub fn default_model(state: &AppState, kind: Kind) -> &str { + match kind { + Kind::Summary => &state.config.summary_model, + _ => &state.config.analysis_model, + } +} + +/// The model new analyses of this kind are written with. +pub async fn model_for(state: &AppState, kind: Kind) -> Result { + let chosen: Option = sqlx::query_scalar("SELECT model FROM model_settings WHERE kind = $1") + .bind(kind.as_str()) + .fetch_optional(&state.db) + .await?; + Ok(chosen.unwrap_or_else(|| default_model(state, kind).to_owned())) +} + +/// One model OpenRouter offers, with its price in USD per million tokens. +#[derive(Debug, Clone, Serialize)] +pub struct ModelInfo { + pub id: String, + pub name: String, + pub input_per_million: f64, + pub output_per_million: f64, + pub context_length: Option, +} + +pub struct Catalog { + url: String, + http: reqwest::Client, + cache: Mutex>)>>, +} + +impl Catalog { + pub fn new(url: &str) -> Self { + let http = reqwest::Client::builder().timeout(Duration::from_secs(15)).build().expect("static configuration"); + Self { url: url.to_owned(), http, cache: Mutex::default() } + } + + /// The models that can write an analysis (they support the structured + /// output the worker asks for), by name; a stale list when OpenRouter is down. + pub async fn models(&self) -> Result>, String> { + let mut cache = self.cache.lock().await; + if let Some((at, list)) = cache.as_ref() + && at.elapsed() < CATALOG_TTL + { + return Ok(list.clone()); + } + match self.fetch().await { + Ok(list) => { + let list = Arc::new(list); + *cache = Some((Instant::now(), list.clone())); + Ok(list) + } + Err(e) => match cache.as_ref() { + Some((_, list)) => { + tracing::warn!(error = %e, "OpenRouter model list unavailable, using the cached one"); + Ok(list.clone()) + } + None => Err(e), + }, + } + } + + async fn fetch(&self) -> Result, String> { + let body: Value = self + .http + .get(&self.url) + .send() + .await + .and_then(reqwest::Response::error_for_status) + .map_err(|e| e.to_string())? + .json() + .await + .map_err(|e| e.to_string())?; + let price = |v: &Value| v.as_str().and_then(|s| s.parse::().ok()).map(|p| p * 1e6); + let mut list: Vec = body["data"] + .as_array() + .ok_or("unexpected OpenRouter answer")? + .iter() + .filter(|m| { + m["supported_parameters"].as_array().is_some_and(|p| p.iter().any(|x| x == "structured_outputs")) + }) + .filter_map(|m| { + Some(ModelInfo { + id: m["id"].as_str()?.to_owned(), + name: m["name"].as_str().unwrap_or_default().to_owned(), + input_per_million: price(&m["pricing"]["prompt"])?, + output_per_million: price(&m["pricing"]["completion"])?, + context_length: m["context_length"].as_u64(), + }) + }) + .collect(); + list.sort_by(|a, b| a.name.cmp(&b.name)); + Ok(list) + } +} diff --git a/services/backend/src/routes/analyses.rs b/services/backend/src/routes/analyses.rs index f0fe58f..eed65d8 100644 --- a/services/backend/src/routes/analyses.rs +++ b/services/backend/src/routes/analyses.rs @@ -9,6 +9,7 @@ //! Every saved chart also gets a free short summary (`summary` kind, written //! by `SUMMARY_MODEL`); the detailed analyses are paid. +use analysis_prompt::Kind; use axum::Json; use axum::body::Bytes; use axum::extract::{Path, State}; @@ -135,20 +136,37 @@ async fn request( Target::Forecast { .. } => Some(Unit::Forecast), _ => Some(Unit::Natal), }; - let model = state.config.analysis_model.clone(); - let (status, row) = queue(state, auth.id(), &target, &language, &model, unit).await?; + let (status, row) = queue(state, auth.id(), &target, &language, unit).await?; Ok((status, Json(row.view()))) } /// Returns the existing analysis with the same cache key for this target, /// copies a finished one from another chart with the same data, or queues a /// new one (spending one `unit`, if given). 200, 201 and 202 respectively. +/// The cache key and the prompt version of a new analysis. The cache key leaves +/// out the admin-edited prompt revision, so a chart keeps its analysis when the +/// prompt changes; copying from another chart needs the same revision. +async fn versions( + state: &AppState, + kind: &str, + hash: &str, + model: &str, + language: &str, +) -> Result<(String, String), sqlx::Error> { + let base_version = &state.config.prompt_version; + let cache_key = sha256_hex(&format!("{kind}|{hash}|{base_version}|{model}|{language}")); + let prompt_version = match super::prompts::current_revision(&state.db, kind, language).await? { + Some(id) => format!("{base_version}-r{id}"), + None => base_version.clone(), + }; + Ok((cache_key, prompt_version)) +} + pub(super) async fn queue( state: &AppState, user: Uuid, target: &Target, language: &str, - model: &str, unit: Option, ) -> Result<(StatusCode, AnalysisRow), ApiError> { let (kind, hash, chart_id, synastry_id, forecast_id) = match target { @@ -157,14 +175,8 @@ pub(super) async fn queue( Target::Synastry { synastry_id, hash } => ("synastry", hash, None, Some(*synastry_id), None), Target::Forecast { forecast_id, hash } => ("forecast", hash, None, None, Some(*forecast_id)), }; - // The cache key leaves out the admin-edited prompt revision, so a chart keeps - // its analysis when the prompt changes; copying from another chart needs the same revision. - let base_version = &state.config.prompt_version; - let cache_key = sha256_hex(&format!("{kind}|{hash}|{base_version}|{model}|{language}")); - let prompt_version = &match super::prompts::current_revision(&state.db, kind, language).await? { - Some(id) => format!("{base_version}-r{id}"), - None => base_version.clone(), - }; + let model = &crate::models::model_for(state, Kind::parse(kind).expect("known kind")).await?; + let (cache_key, prompt_version) = &versions(state, kind, hash, model, language).await?; // Already requested for this chart/synastry: return it. let existing: Option = sqlx::query_as(&format!( @@ -174,7 +186,7 @@ pub(super) async fn queue( )) .bind(chart_id) .bind(synastry_id) - .bind(&cache_key) + .bind(cache_key) .bind(forecast_id) .fetch_optional(&state.db) .await?; @@ -195,7 +207,7 @@ pub(super) async fn queue( "SELECT content, input_tokens, output_tokens FROM analyses \ WHERE cache_key = $1 AND prompt_version = $2 AND status = 'done' LIMIT 1", ) - .bind(&cache_key) + .bind(cache_key) .bind(prompt_version) .fetch_optional(&state.db) .await?; @@ -209,7 +221,7 @@ pub(super) async fn queue( .bind(language) .bind(model) .bind(prompt_version) - .bind(&cache_key) + .bind(cache_key) .bind("done") .bind(content) .bind(input_tokens) @@ -233,7 +245,7 @@ pub(super) async fn queue( .bind(language) .bind(model) .bind(prompt_version) - .bind(&cache_key) + .bind(cache_key) .bind("pending") .bind(None::) .bind(None::) @@ -254,8 +266,7 @@ pub(super) async fn queue( /// it does not exist yet or the last attempt failed. pub async fn ensure_summary(state: &AppState, owner: &AuthUser, chart: &ChartRow) -> Result { let target = Target::Summary { chart_id: chart.id, hash: chart.chart_hash.clone() }; - let model = state.config.summary_model.clone(); - Ok(queue(state, owner.id(), &target, &owner.user.locale, &model, None).await?.1) + Ok(queue(state, owner.id(), &target, &owner.user.locale, None).await?.1) } pub async fn summary_for_chart( @@ -345,3 +356,59 @@ pub async fn request_for_forecast( let req = optional_body(&body)?; request(&state, &auth, Target::Forecast { forecast_id: forecast.id, hash: forecast.forecast_hash }, req).await } + +/// Admin: writes an analysis again in place (same id, so links stay), with the +/// current prompt and model. Nobody is charged. +pub async fn regenerate( + State(state): St, + _admin: crate::auth::AdminUser, + WithRejection(Path(id), _): IdPath, +) -> ApiResult> { + let row = find_analysis(&state.db, id).await?.ok_or(ApiError::NotFound("analysis"))?; + if row.status == "pending" || row.status == "running" { + return Err(ApiError::conflict("analysis_in_progress", "Ez az elemzés éppen készül.")); + } + let kind = Kind::parse(&row.kind).ok_or_else(|| ApiError::Internal(format!("unknown kind {}", row.kind)))?; + let hash: Option = match kind { + Kind::Natal | Kind::Summary => { + sqlx::query_scalar("SELECT chart_hash FROM charts WHERE id = $1") + .bind(row.chart_id) + .fetch_optional(&state.db) + .await? + } + Kind::Synastry => { + sqlx::query_scalar("SELECT synastry_hash FROM synastries WHERE id = $1") + .bind(row.synastry_id) + .fetch_optional(&state.db) + .await? + } + Kind::Forecast => { + sqlx::query_scalar("SELECT forecast_hash FROM forecasts WHERE id = $1") + .bind(row.forecast_id) + .fetch_optional(&state.db) + .await? + } + }; + let hash = hash.ok_or(ApiError::NotFound("analysis"))?; + let model = crate::models::model_for(&state, kind).await?; + let (cache_key, prompt_version) = versions(&state, kind.as_str(), &hash, &model, &row.language).await?; + let mut tx = state.db.begin().await?; + let row: AnalysisRow = sqlx::query_as(&format!( + "UPDATE analyses SET status = 'pending', content = NULL, error = NULL, model_used = NULL, \ + input_tokens = NULL, output_tokens = NULL, cost_usd = NULL, attempts = 0, next_attempt_at = now(), \ + started_at = NULL, completed_at = NULL, model = $2, prompt_version = $3, cache_key = $4 \ + WHERE id = $1 AND status IN ('done', 'failed') RETURNING {ANALYSIS_COLUMNS}" + )) + .bind(id) + .bind(&model) + .bind(&prompt_version) + .bind(&cache_key) + .fetch_optional(&mut *tx) + .await? + .ok_or_else(|| ApiError::conflict("analysis_in_progress", "Ez az elemzés éppen készül."))?; + // Wakes the worker, as a new analysis does. + sqlx::query("SELECT pg_notify('analyses', '')").execute(&mut *tx).await?; + tx.commit().await?; + tracing::info!(%id, kind = kind.as_str(), "analysis regenerated"); + Ok(Json(row.view())) +} diff --git a/services/backend/src/routes/mod.rs b/services/backend/src/routes/mod.rs index 426c8de..6739a56 100644 --- a/services/backend/src/routes/mod.rs +++ b/services/backend/src/routes/mod.rs @@ -12,6 +12,7 @@ mod auth; mod charts; mod forecasts; mod invitations; +mod models; mod payments; mod prompts; mod recalculate; @@ -112,6 +113,10 @@ pub fn router(state: Arc) -> Router { .route("/v1/admin/prompts/{kind}/{language}", axum::routing::put(prompts::save)) .route("/v1/admin/prompts/{kind}/{language}/preview", post(prompts::start_preview)) .route("/v1/admin/previews/{id}", get(prompts::get_preview)) + .route("/v1/admin/models", get(models::list)) + .route("/v1/admin/models/catalog", get(models::catalog)) + .route("/v1/admin/models/{kind}", axum::routing::put(models::save)) + .route("/v1/admin/analyses/{id}/regenerate", post(analyses::regenerate)) .layer(cors(&state.config.cors_allowed_origins)) .layer( TraceLayer::new_for_http() diff --git a/services/backend/src/routes/models.rs b/services/backend/src/routes/models.rs new file mode 100644 index 0000000..2ad5c8c --- /dev/null +++ b/services/backend/src/routes/models.rs @@ -0,0 +1,110 @@ +//! Admin: which model writes which kind of analysis, chosen from the models +//! OpenRouter offers. A change applies to analyses requested after it. + +use analysis_prompt::Kind; +use axum::Json; +use axum::extract::{Path, State}; +use axum_extra::extract::WithRejection; +use serde::Deserialize; +use serde_json::{Value, json}; +use time::OffsetDateTime; + +use super::{Body, St}; +use crate::AppState; +use crate::auth::AdminUser; +use crate::error::{ApiError, ApiResult}; +use crate::models::default_model; +use crate::views::rfc3339; + +fn catalog_error(e: String) -> ApiError { + ApiError::Conflict { + code: "model_list_unavailable", + message: format!("Az OpenRouter modell-listája most nem érhető el: {e}"), + } +} + +async fn entry(state: &AppState, kind: Kind) -> Result { + let chosen: Option<(String, OffsetDateTime, Option)> = sqlx::query_as( + "SELECT m.model, m.updated_at, u.email FROM model_settings m LEFT JOIN users u ON u.id = m.updated_by \ + WHERE m.kind = $1", + ) + .bind(kind.as_str()) + .fetch_optional(&state.db) + .await?; + // Typical size of this kind of analysis, from the latest ones: for the cost estimate. + let (input, output, samples): (Option, Option, i64) = sqlx::query_as( + "SELECT avg(input_tokens)::float8, avg(output_tokens)::float8, count(*) FROM ( \ + SELECT input_tokens, output_tokens FROM analyses \ + WHERE kind = $1 AND status = 'done' AND input_tokens IS NOT NULL AND output_tokens IS NOT NULL \ + ORDER BY completed_at DESC LIMIT 50) recent", + ) + .bind(kind.as_str()) + .fetch_one(&state.db) + .await?; + let default = default_model(state, kind); + Ok(json!({ + "kind": kind.as_str(), + "model": chosen.as_ref().map_or(default, |c| c.0.as_str()), + "default": default, + "custom": chosen.is_some(), + "updated_at": chosen.as_ref().map(|c| rfc3339(c.1)), + "updated_by": chosen.as_ref().and_then(|c| c.2.clone()), + "avg_input_tokens": input, + "avg_output_tokens": output, + "samples": samples, + })) +} + +pub async fn list(State(state): St, _admin: AdminUser) -> ApiResult> { + let mut functions = Vec::new(); + for kind in Kind::ALL { + functions.push(entry(&state, kind).await?); + } + Ok(Json(json!({ "functions": functions }))) +} + +pub async fn catalog(State(state): St, _admin: AdminUser) -> ApiResult> { + let models = state.models.models().await.map_err(catalog_error)?; + Ok(Json(json!({ "models": *models }))) +} + +#[derive(Deserialize)] +#[serde(deny_unknown_fields)] +pub struct SaveModel { + /// An OpenRouter model id; `null` restores the default. + model: Option, +} + +pub async fn save( + State(state): St, + AdminUser(admin): AdminUser, + WithRejection(Path(kind), _): WithRejection, ApiError>, + WithRejection(Json(req), _): Body, +) -> ApiResult> { + let kind = Kind::parse(&kind).ok_or(ApiError::NotFound("function"))?; + match req.model.as_deref().map(str::trim) { + Some(model) if model != default_model(&state, kind) => { + let models = state.models.models().await.map_err(catalog_error)?; + if !models.iter().any(|m| m.id == model) { + return Err(ApiError::BadRequest(format!( + "unknown model, or it cannot give structured answers: {model}" + ))); + } + sqlx::query( + "INSERT INTO model_settings (kind, model, updated_by) VALUES ($1, $2, $3) \ + ON CONFLICT (kind) DO UPDATE SET model = EXCLUDED.model, updated_by = EXCLUDED.updated_by, \ + updated_at = now()", + ) + .bind(kind.as_str()) + .bind(model) + .bind(admin.id()) + .execute(&state.db) + .await?; + } + _ => { + sqlx::query("DELETE FROM model_settings WHERE kind = $1").bind(kind.as_str()).execute(&state.db).await?; + } + } + tracing::info!(admin = %admin.id(), kind = kind.as_str(), "analysis model changed"); + Ok(Json(entry(&state, kind).await?)) +} diff --git a/services/backend/src/routes/prompts.rs b/services/backend/src/routes/prompts.rs index b4bef5d..09fd263 100644 --- a/services/backend/src/routes/prompts.rs +++ b/services/backend/src/routes/prompts.rs @@ -246,10 +246,7 @@ pub async fn start_preview( "Egyszerre legfeljebb három próba futhat. Várd meg, amíg valamelyik elkészül.", )); } - let model = match kind { - Kind::Summary => &state.config.summary_model, - _ => &state.config.analysis_model, - }; + let model = &crate::models::model_for(&state, kind).await?; let row: PreviewRow = sqlx::query_as(&format!( "INSERT INTO prompt_previews (id, kind, chart_id, synastry_id, forecast_id, language, model, system, created_by) \ VALUES ($1, $2, $3, $4, $5, $6, $7, $8, $9) RETURNING {PREVIEW_COLUMNS}" diff --git a/services/backend/src/routes/recalculate.rs b/services/backend/src/routes/recalculate.rs index 915cf40..3112ff8 100644 --- a/services/backend/src/routes/recalculate.rs +++ b/services/backend/src/routes/recalculate.rs @@ -91,25 +91,23 @@ pub async fn run(state: &AppState) -> anyhow::Result<()> { tracing::info!(count = forecast_hashes.len(), "forecasts recalculated"); let deleted = sqlx::query("DELETE FROM analyses").execute(db).await?.rows_affected(); - let summary_model = &state.config.summary_model; - let analysis_model = &state.config.analysis_model; let mut queued = 0; for c in &charts { let language = locale(db, c.owner_id).await?; let summary = Target::Summary { chart_id: c.id, hash: c.chart_hash.clone() }; - queue(state, c.owner_id, &summary, &language, summary_model, None).await?; + queue(state, c.owner_id, &summary, &language, None).await?; let natal = Target::Natal { chart_id: c.id, hash: c.chart_hash.clone() }; - queue(state, c.owner_id, &natal, &language, analysis_model, None).await?; + queue(state, c.owner_id, &natal, &language, None).await?; queued += 2; } for (synastry_id, owner, hash) in synastry_hashes { let target = Target::Synastry { synastry_id, hash }; - queue(state, owner, &target, &locale(db, owner).await?, analysis_model, None).await?; + queue(state, owner, &target, &locale(db, owner).await?, None).await?; queued += 1; } for (forecast_id, owner, hash) in forecast_hashes { let target = Target::Forecast { forecast_id, hash }; - queue(state, owner, &target, &locale(db, owner).await?, analysis_model, None).await?; + queue(state, owner, &target, &locale(db, owner).await?, None).await?; queued += 1; } tracing::info!(deleted, queued, "analyses queued again"); diff --git a/services/backend/src/tests.rs b/services/backend/src/tests.rs index d18e71c..129afd7 100644 --- a/services/backend/src/tests.rs +++ b/services/backend/src/tests.rs @@ -96,8 +96,24 @@ async fn fake_jwks() -> Json { ) } +async fn fake_openrouter_models() -> Json { + let model = |id: &str, name: &str, structured: bool| { + json!({ + "id": id, "name": name, "context_length": 200000, + "pricing": {"prompt": "0.000003", "completion": "0.000015"}, + "supported_parameters": if structured { json!(["tools", "structured_outputs"]) } else { json!(["tools"]) }, + }) + }; + Json(json!({"data": [ + model("anthropic/claude-test", "Claude Test", true), + model("vendor/plain", "Plain (no JSON)", false), + model("openai/gpt-x", "GPT X", true), + ]})) +} + async fn fake_services() -> String { let app = Router::new() + .route("/openrouter/models", get(fake_openrouter_models)) .route("/v1/natal", post(fake_natal)) .route("/v1/synastry", post(fake_synastry)) .route("/v1/forecast", post(fake_forecast)) @@ -1460,3 +1476,75 @@ async fn recalculate_refreshes_calculations_and_queues_every_analysis_again(pool assert_eq!(app.get("/v1/me", Some(&anna)).await.body["analyses_left"], before); assert_eq!(syn.status, StatusCode::CREATED); } + +#[sqlx::test(migrator = "db::MIGRATOR")] +async fn admins_choose_the_model_of_each_function(pool: PgPool) { + let app = TestApp::new(pool.clone()).await; + let admin = app.register("admin@example.com", "Admin").await; + let anna = app.register("anna@example.com", "Anna").await; + assert_eq!(app.get("/v1/admin/models", Some(&anna)).await.status, StatusCode::FORBIDDEN); + + let r = app.get("/v1/admin/models", Some(&admin)).await; + let models: Vec<(&str, &str, bool)> = r.body["functions"] + .as_array() + .unwrap() + .iter() + .map(|f| (f["kind"].as_str().unwrap(), f["model"].as_str().unwrap(), f["custom"].as_bool().unwrap())) + .collect(); + assert_eq!( + models, + [ + ("summary", "anthropic/claude-summary", false), + ("natal", "anthropic/claude-test", false), + ("synastry", "anthropic/claude-test", false), + ("forecast", "anthropic/claude-test", false), + ] + ); + + // the list has only models that give structured answers, with prices per million tokens + let r = app.get("/v1/admin/models/catalog", Some(&admin)).await; + let ids: Vec<&str> = r.body["models"].as_array().unwrap().iter().map(|m| m["id"].as_str().unwrap()).collect(); + assert_eq!(ids, ["anthropic/claude-test", "openai/gpt-x"]); + assert_eq!(r.body["models"][1]["input_per_million"].as_f64().map(|p| (p * 100.0).round()), Some(300.0)); + + let put = |kind: &str, model: Value| { + let uri = format!("/v1/admin/models/{kind}"); + let (app, admin) = (&app, &admin); + async move { app.call("PUT", &uri, Some(admin), Some(json!({ "model": model }))).await } + }; + assert_eq!(put("natal", json!("vendor/plain")).await.status, StatusCode::BAD_REQUEST); + assert_eq!(put("composite", json!("openai/gpt-x")).await.status, StatusCode::NOT_FOUND); + let r = put("natal", json!("openai/gpt-x")).await; + assert_eq!((r.status, &r.body["model"], &r.body["custom"]), (StatusCode::OK, &json!("openai/gpt-x"), &json!(true))); + + // new analyses use it; regenerating writes it again in place with the current model + let chart = app.chart(&admin, "Saját", true, "1990-03-15").await; + let chart_id = chart["id"].as_str().unwrap(); + let r = app.post(&format!("/v1/charts/{chart_id}/analyses"), Some(&admin), json!({})).await; + assert_eq!(r.status, StatusCode::ACCEPTED, "{}", r.body); + let id = r.body["id"].as_str().unwrap().to_string(); + let model = + || sqlx::query_scalar::<_, String>("SELECT model FROM analyses WHERE id = $1::uuid").bind(&id).fetch_one(&pool); + assert_eq!(model().await.unwrap(), "openai/gpt-x"); + let regenerate_uri = format!("/v1/admin/analyses/{id}/regenerate"); + let regenerate = || app.post(®enerate_uri, Some(&admin), json!({})); + assert_eq!(regenerate().await.status, StatusCode::CONFLICT); // still being written + sqlx::query("UPDATE analyses SET status = 'done', content = '{\"title\": \"Régi\"}', completed_at = now()") + .execute(&pool) + .await + .unwrap(); + assert_eq!(put("natal", Value::Null).await.body["model"], "anthropic/claude-test"); + assert_eq!( + app.post(&format!("/v1/admin/analyses/{id}/regenerate"), Some(&anna), json!({})).await.status, + StatusCode::FORBIDDEN + ); + let r = regenerate().await; + assert_eq!( + (r.status, r.body["status"].as_str(), &r.body["content"]), + (StatusCode::OK, Some("pending"), &Value::Null) + ); + assert_eq!(r.body["id"].as_str(), Some(id.as_str())); + assert_eq!(model().await.unwrap(), "anthropic/claude-test"); + let r = app.get(&format!("/v1/charts/{chart_id}/analyses"), Some(&admin)).await; + assert_eq!(r.body["analyses"].as_array().unwrap().iter().filter(|a| a["kind"] == "natal").count(), 1); +} diff --git a/services/frontend/src/app/admin/modellek/AdminModels.tsx b/services/frontend/src/app/admin/modellek/AdminModels.tsx new file mode 100644 index 0000000..e1de69d --- /dev/null +++ b/services/frontend/src/app/admin/modellek/AdminModels.tsx @@ -0,0 +1,205 @@ +"use client"; + +import { useEffect, useMemo, useState } from "react"; + +import { api, errorText } from "@/lib/api"; +import { formatDate } from "@/lib/astro"; +import type { CatalogModel, ModelFunction, PromptKind } from "@/lib/types"; + +const LABELS: Record = { + summary: { title: "Tömör összefoglaló", about: "Ingyenes, minden új képlethez magától elkészül. Olcsó, gyors modell elég." }, + natal: { title: "Részletes képletelemzés", about: "Fizetős, hat fejezet." }, + synastry: { title: "Kapcsolati elemzés", about: "Fizetős, öt fejezet két képletről." }, + forecast: { title: "Éves előrejelzés", about: "Fizetős, öt fejezet, a leghosszabb adatsorral." }, +}; + +/** How many models the picker lists at once (narrow it with the search). */ +const SHOWN = 60; + +const usd = (x: number) => (x < 0.01 ? `$${x.toFixed(4)}` : `$${x.toFixed(3)}`); +const perMillion = (x: number) => `$${x < 1 ? x.toFixed(2) : x.toFixed(x % 1 === 0 ? 0 : 2)}`; + +/** Estimated cost of one analysis of this kind with this model, from the average size of the latest ones. */ +function estimate(f: ModelFunction, m: CatalogModel | undefined): number | null { + if (!m || f.avg_input_tokens === null || f.avg_output_tokens === null) return null; + return (f.avg_input_tokens * m.input_per_million + f.avg_output_tokens * m.output_per_million) / 1e6; +} + +export function AdminModels() { + const [functions, setFunctions] = useState(null); + const [catalog, setCatalog] = useState(null); + const [catalogError, setCatalogError] = useState(null); + const [error, setError] = useState(null); + + useEffect(() => { + api<{ functions: ModelFunction[] }>("/admin/models") + .then((d) => setFunctions(d.functions)) + .catch((e) => setError(errorText(e))); + api<{ models: CatalogModel[] }>("/admin/models/catalog") + .then((d) => setCatalog(d.models)) + .catch((e) => setCatalogError(errorText(e))); + }, []); + + if (error) { + return ( +

+ {error} +

+ ); + } + if (!functions) return

Betöltés…

; + const replace = (next: ModelFunction) => setFunctions((all) => all?.map((f) => (f.kind === next.kind ? next : f)) ?? null); + + return ( +
+ {catalogError && ( +

+ {catalogError} +

+ )} + {functions.map((f) => ( + + ))} +
+ ); +} + +function FunctionModel({ + fn, + catalog, + onSaved, +}: { + fn: ModelFunction; + catalog: CatalogModel[] | null; + onSaved: (f: ModelFunction) => void; +}) { + const [open, setOpen] = useState(false); + const [query, setQuery] = useState(""); + const [busy, setBusy] = useState(false); + const [error, setError] = useState(null); + const current = catalog?.find((m) => m.id === fn.model); + const cost = estimate(fn, current); + const label = LABELS[fn.kind]; + const searchId = `model-search-${fn.kind}`; + + const matches = useMemo(() => { + const words = query.toLowerCase().split(/\s+/).filter(Boolean); + return (catalog ?? []).filter((m) => { + const text = `${m.name} ${m.id}`.toLowerCase(); + return words.every((w) => text.includes(w)); + }); + }, [catalog, query]); + + async function save(model: string | null) { + setBusy(true); + setError(null); + try { + onSaved(await api(`/admin/models/${fn.kind}`, { method: "PUT", body: { model } })); + setOpen(false); + setQuery(""); + } catch (e) { + setError(errorText(e)); + } finally { + setBusy(false); + } + } + + return ( +
+
+
+

{label.title}

+

{label.about}

+
+
+ {current?.name ?? fn.model} + {fn.model} + + {current + ? `${perMillion(current.input_per_million)} be / ${perMillion(current.output_per_million)} ki, millió tokenenként` + : catalog + ? "nincs az OpenRouter listájában" + : ""} + + + {cost !== null + ? `Becsült költség: kb. ${usd(cost)} elemzésenként (az utolsó ${fn.samples} alapján)` + : "Költségbecslés az első elkészült elemzések után."} + + + {fn.custom + ? `Módosítva: ${fn.updated_at ? formatDate(fn.updated_at, true) : ""}${fn.updated_by ? `, ${fn.updated_by}` : ""}` + : "Alapértelmezett"} + +
+
+
+ + {fn.custom && ( + + )} +
+ {error && ( +

+ {error} +

+ )} + {open && ( +
+
+ + setQuery(e.target.value)} + /> +
+ {!catalog ? ( +

A lista betöltése…

+ ) : ( + <> +

+ {matches.length} modell (csak azok, amelyek kötött JSON-választ tudnak adni). Ár: dollár millió tokenenként, + bemenet / kimenet{fn.avg_input_tokens !== null ? "; jobb oldalt a becsült költség elemzésenként" : ""}. +

+
    + {matches.slice(0, SHOWN).map((m) => { + const each = estimate(fn, m); + return ( +
  • + +
  • + ); + })} +
+ {matches.length > SHOWN &&

Szűkítsd a keresést a többi találathoz.

} + + )} +
+ )} +
+ ); +} diff --git a/services/frontend/src/app/admin/modellek/page.tsx b/services/frontend/src/app/admin/modellek/page.tsx new file mode 100644 index 0000000..c2d8115 --- /dev/null +++ b/services/frontend/src/app/admin/modellek/page.tsx @@ -0,0 +1,27 @@ +import type { Metadata } from "next"; +import { notFound } from "next/navigation"; + +import { AdminNav } from "@/components/AdminNav"; +import { requireMe } from "@/lib/server"; + +import { AdminModels } from "./AdminModels"; + +export const metadata: Metadata = { title: "Modellek" }; + +export default async function AdminModelsPage() { + const me = await requireMe("/admin/modellek"); + if (!me.user.roles.includes("admin")) notFound(); + return ( +
+ +
+

Modellek

+

+ Melyik modell írja az egyes elemzéseket. A változás az ezután kért és az újragenerált elemzésekre hat; a már + elkészültek változatlanok maradnak. A felhasználók a modell nevét sehol nem látják. +

+
+ +
+ ); +} diff --git a/services/frontend/src/app/globals.css b/services/frontend/src/app/globals.css index 7f2af67..cbeab9e 100644 --- a/services/frontend/src/app/globals.css +++ b/services/frontend/src/app/globals.css @@ -610,3 +610,26 @@ a.pair-row:hover strong { color: var(--gold); } .timeline-item { grid-template-columns: 52px 1fr; } .timeline-glyph { display: none; } } + +/* admin: models */ +.model-list { display: flex; flex-direction: column; gap: 16px; } +.model-card { gap: 12px; } +.model-head { display: flex; gap: 12px 24px; justify-content: space-between; flex-wrap: wrap; } +.model-head h2 { margin: 0 0 4px; font-size: 20px; } +.model-current { display: flex; flex-direction: column; gap: 2px; align-items: flex-end; text-align: right; min-width: 0; } +.model-current code, .model-option code { font-size: 13px; color: var(--muted); overflow-wrap: anywhere; } +.model-picker { display: flex; flex-direction: column; gap: 8px; } +.model-options { list-style: none; margin: 0; padding: 0; display: flex; flex-direction: column; gap: 4px; max-height: 420px; overflow-y: auto; } +.model-option { + width: 100%; display: flex; gap: 12px; justify-content: space-between; align-items: center; text-align: left; + padding: 8px 12px; border: 1px solid var(--line); border-radius: 8px; background: transparent; color: inherit; cursor: pointer; font: inherit; +} +.model-option > span:first-child { display: flex; flex-direction: column; min-width: 0; } +.model-option:hover { border-color: var(--gold); } +.model-option[aria-current="true"] { border-color: var(--gold); background: color-mix(in srgb, var(--gold) 10%, transparent); } +.model-price { display: flex; flex-direction: column; align-items: flex-end; font-size: 13px; color: var(--muted); white-space: nowrap; } +.model-price strong { color: var(--ink); font-size: 14px; } +@media (max-width: 640px) { + .model-current { align-items: flex-start; text-align: left; } +} +.regenerate { display: flex; flex-wrap: wrap; gap: 8px; align-items: center; justify-content: flex-end; } diff --git a/services/frontend/src/app/kepletek/[id]/page.tsx b/services/frontend/src/app/kepletek/[id]/page.tsx index cc82bf7..fbe721a 100644 --- a/services/frontend/src/app/kepletek/[id]/page.tsx +++ b/services/frontend/src/app/kepletek/[id]/page.tsx @@ -72,7 +72,12 @@ export default async function ChartPage({ params }: { params: Promise<{ id: stri
- + {(elements || modalities || phase) && (
diff --git a/services/frontend/src/components/AdminNav.tsx b/services/frontend/src/components/AdminNav.tsx index a1eea29..d87aa0c 100644 --- a/services/frontend/src/components/AdminNav.tsx +++ b/services/frontend/src/components/AdminNav.tsx @@ -4,6 +4,7 @@ const PAGES = [ { href: "/admin", label: "Felhasználók" }, { href: "/admin/meghivok", label: "Meghívók" }, { href: "/admin/promptok", label: "Promptok" }, + { href: "/admin/modellek", label: "Modellek" }, ]; /** Switches between the admin pages. */ diff --git a/services/frontend/src/components/ChartSummary.tsx b/services/frontend/src/components/ChartSummary.tsx index 5f82d79..b3f5276 100644 --- a/services/frontend/src/components/ChartSummary.tsx +++ b/services/frontend/src/components/ChartSummary.tsx @@ -6,6 +6,7 @@ import { api } from "@/lib/api"; import type { Analysis } from "@/lib/types"; import { AnalysisLoading } from "./AnalysisLoading"; +import { RegenerateButton } from "./RegenerateButton"; import { Rich } from "./Rich"; import { openTab } from "./Tabs"; @@ -21,11 +22,14 @@ export function ChartSummary({ chartId, initial, detailedDone = false, + isAdmin = false, }: { chartId: string; initial: Analysis | null; /** The detailed analysis is ready: the link says so instead of offering it. */ detailedDone?: boolean; + /** Admins can write the summary again. */ + isAdmin?: boolean; }) { const [summary, setSummary] = useState(initial); const [gaveUp, setGaveUp] = useState(false); @@ -61,6 +65,15 @@ export function ChartSummary({ Röviden {content ? ( <> + {isAdmin && summary && ( + { + setGaveUp(false); + setSummary(a); + }} + /> + )}

{content.title}

diff --git a/services/frontend/src/components/DetailedAnalysis.tsx b/services/frontend/src/components/DetailedAnalysis.tsx index e83c9ec..724d6a5 100644 --- a/services/frontend/src/components/DetailedAnalysis.tsx +++ b/services/frontend/src/components/DetailedAnalysis.tsx @@ -9,6 +9,7 @@ import type { Analysis } from "@/lib/types"; import { AI_SHORT } from "./AiNote"; import { AnalysisLoading } from "./AnalysisLoading"; import { PackageChooser } from "./PackageCards"; +import { RegenerateButton } from "./RegenerateButton"; import { AnalysisView } from "./AnalysisView"; const POLL_MS = 5000; @@ -145,6 +146,7 @@ export function DetailedAnalysis({ return (
{t.eyebrow} + {isAdmin && } {note &&

{note}

}
diff --git a/services/frontend/src/components/RegenerateButton.tsx b/services/frontend/src/components/RegenerateButton.tsx new file mode 100644 index 0000000..3563ba1 --- /dev/null +++ b/services/frontend/src/components/RegenerateButton.tsx @@ -0,0 +1,54 @@ +"use client"; + +import { useState } from "react"; + +import { api, errorText } from "@/lib/api"; +import type { Analysis } from "@/lib/types"; + +/** + * Admin only: writes the analysis again in place with the current prompt and + * model (nobody is charged). Asks once before it starts. + */ +export function RegenerateButton({ analysisId, onStarted }: { analysisId: string; onStarted: (a: Analysis) => void }) { + const [asking, setAsking] = useState(false); + const [busy, setBusy] = useState(false); + const [error, setError] = useState(null); + + async function regenerate() { + setBusy(true); + setError(null); + try { + onStarted(await api(`/admin/analyses/${analysisId}/regenerate`, { method: "POST" })); + setAsking(false); + } catch (e) { + setError(errorText(e)); + } finally { + setBusy(false); + } + } + + return ( +
+ {asking ? ( + <> + A mostani szöveg helyett újat ír a jelenlegi prompttal és modellel. + + + + ) : ( + + )} + {error && ( + + {error} + + )} +
+ ); +} diff --git a/services/frontend/src/lib/types.ts b/services/frontend/src/lib/types.ts index 93e1590..62dcf68 100644 --- a/services/frontend/src/lib/types.ts +++ b/services/frontend/src/lib/types.ts @@ -231,6 +231,30 @@ export interface AdminUser { export type PromptKind = "summary" | "natal" | "synastry" | "forecast"; +/** Admin: the model writing one kind of analysis. */ +export interface ModelFunction { + kind: PromptKind; + model: string; + /** The configured default (environment). */ + default: string; + custom: boolean; + updated_at: string | null; + updated_by: string | null; + /** Average size of the latest analyses of this kind, for the cost estimate. */ + avg_input_tokens: number | null; + avg_output_tokens: number | null; + samples: number; +} + +/** A model OpenRouter offers; prices in USD per million tokens. */ +export interface CatalogModel { + id: string; + name: string; + input_per_million: number; + output_per_million: number; + context_length: number | null; +} + export interface PromptRevision { id: number; custom: boolean; diff --git a/services/worker/src/analysis/mod.rs b/services/worker/src/analysis/mod.rs index d0603b4..1245e25 100644 --- a/services/worker/src/analysis/mod.rs +++ b/services/worker/src/analysis/mod.rs @@ -295,7 +295,11 @@ impl Analyzer { if let Some((Some(user), units, kind)) = row && units > 0 { - let unit = if kind == "synastry" { "synastry" } else { "natal" }; + let unit = match kind.as_str() { + "synastry" => "synastry", + "forecast" => "forecast", + _ => "natal", + }; sqlx::query( "INSERT INTO credit_ledger (id, user_id, unit, delta, reason, analysis_id, note) \ VALUES ($1, $2, $3, $4, 'refund', $5, 'analysis failed') ON CONFLICT DO NOTHING", diff --git a/services/worker/src/tests.rs b/services/worker/src/tests.rs index e4f524b..1979aa3 100644 --- a/services/worker/src/tests.rs +++ b/services/worker/src/tests.rs @@ -400,8 +400,10 @@ mod analyses { assert_eq!(body["provider"]["require_parameters"], true); let system = body["messages"][0]["content"].as_str().unwrap(); let user = body["messages"][1]["content"].as_str().unwrap(); - assert!(system.contains("Write in Hungarian.") && system.contains("Szaturnusz")); - assert!(user.contains("- Sun: Pisces 24°42', house 8") && user.contains("- personality: ")); + assert!(system.contains("Magyarul írj") && system.contains("Szaturnusz")); + assert!( + user.contains("- Sun: Pisces 24°42', house 8") && user.contains("- personality: Az alapvető identitás") + ); // No birth data in the prompt. for secret in ["1990", "14:30", "Szeged", "Hungary"] { assert!(!user.contains(secret) && !system.contains(secret), "{secret} leaked");