Konsekvensbedömning av grundläggande rättigheter (FRIA) Fundamental Rights Impact Assessment (FRIA)

Fidoco Align — AI-assisterad rekryteringsscreening · Version 1.4 · Senast uppdaterad 2026-09-01 Fidoco Align — AI-assisted recruitment screening · Version 1.4 · Last updated 2026-09-01

Bedömningsdatum: 2026-04-15 · Bedömare: Fidoco AB · Nästa granskning: 2027-06-30 (och senast 2027-12-02, när högriskkraven börjar gälla)

Denna bedömning är frivillig. Art. 27 i AI-förordningen kräver en konsekvensbedömning av grundläggande rättigheter från distribuerande aktörer som är offentliga organ, privata aktörer som utför offentliga tjänster, samt distributörer av system enligt bilaga III punkt 5(b) och 5(c). Fidoco AB är leverantör, inte distributör, och omfattas därmed inte. Vi har genomfört och publicerat bedömningen ändå — dels för att den gör systemet bättre, dels för att våra kunder ska kunna använda den i sitt eget underlag.

1. Systembeskrivning

1.1 Översikt

Fidoco Align är en AI-driven plattform för CV-analys som jämför kandidaters CV:n mot jobbeskrivningar för att producera matchningspoäng, rekommendationer och strukturerad feedback. Tjänsten har två användarsegment:

B2C (individuella användare): jobbsökare laddar upp sitt eget CV för coaching-feedback
B2B (organisationer): rekryterare laddar upp kandidaters CV:n för screening mot jobbannonser

1.2 AI-modell

Modell: Qwen3-32B-NVFP4 (32 miljarder parametrar, NVFP4 4-bitars kvantisering)
Inferensmotor: vLLM (primär) / Ollama (reserv)
Driftsättning: egenvärdad på europeiska servrar med GPU-acceleration
Inga externa AI-tjänster: all inferens körs lokalt — ingen data skickas till OpenAI, Google eller andra tredjeparts-AI-leverantörer

1.3 Dataflöde

Rekryterare laddar upp kandidatens CV (PDF/DOCX/TXT)
Text extraheras från filen
CV-text och jobbeskrivning skickas till den lokala AI-modellen
AI genererar strukturerad JSON-analys (poäng, rekommendation, styrkor, tveksamheter)
Resultat lagras i PostgreSQL-databas på europeisk server
Rekryteraren granskar resultatet i sin dashboard och fattar det slutliga anställningsbeslutet

1.4 AI-output

Matchningspoäng (0–100): övergripande passning mellan CV och jobbeskrivning
Rekommendation: Starkt ja / Ja / Kanske / Nej — ett screeningförslag
Delpoäng: teknisk matchning, erfarenhetsnivå, nyckelordstäckning
Styrkor: evidensbaserade positiva fynd ur CV:t
Tveksamheter: evidensbaserade områden med bristande matchning, med allvarlighetsgrad
Saknade kvalifikationer: krav från annonsen som inte återfinns i CV:t

2. Riskklassificering

2.1 EU AI-förordningens klassificering

Enligt AI-förordningen (förordning 2024/1689) klassificeras AI-system som används för anställning, personalhantering och tillgång till egenföretagande som högrisk (bilaga III, område 4, punkt (a)). Fidoco Align faller inom denna klassificering då systemet utvärderar kandidater mot jobbeskrivningar.

Tidpunkt (uppdaterad 2026-08-03): genom Digital Omnibus — förordning (EU) 2026/1744, publicerad i EUT 24 juli 2026 och i kraft 27 juli 2026 — gäller högriskkraven för bilaga III från 2 december 2027 i stället för 2 augusti 2026. Klassificeringen som högrisk är oförändrad; det är tidpunkten för när kraven börjar tillämpas som flyttats. Transparenskraven i art. 50 sköts inte fram och gäller sedan 2 augusti 2026, och förbuden i art. 5 har gällt sedan 2 februari 2025.

2.2 Distribuerande aktör vs. leverantör

Fidoco AB är leverantör av AI-systemet (art. 3(3))
Organisationer som använder Fidoco Align är distribuerande aktörer (art. 3(4)) och har egna skyldigheter enligt art. 26

3. Analys av grundläggande rättigheter

3.1 Rätt till icke-diskriminering (EU-stadgan art. 21)

Risk: AI-modellen kan systematiskt missgynna kandidater baserat på skyddade egenskaper (kön, etnicitet, ålder, funktionsnedsättning).

Bedömning: MEDEL risk — mitigerad genom design.

AI-modellen utvärderar enbart textmatchning — den jämför CV-innehåll mot jobbeskrivningens krav
Identitetsblind bedömning (införd 2026-08-17): namn, e-post, telefonnummer, personnummer och profillänkar tas bort ur CV:t — och ur ett eventuellt personligt brev — innan det når modellen. Rekryteraren ser fortfarande hela CV:t i gränssnittet; det är modellens underlag som är avidentifierat
B2B-promten instruerar uttryckligen modellen att enbart bedöma kvalifikationer, kompetenser och erfarenhet, och att aldrig låta namn, kön, ålder, etnicitet, nationalitet eller adress påverka poäng eller rekommendation
Foton når aldrig modellen: filinläsningen extraherar enbart textlager ur PDF och DOCX och avkodar aldrig bilder
Inga personliga egenskaper (foton, kön, ålder, etnicitet, nationalitet) extraheras, poängsätts eller lagras som strukturerad data
Anti-hallucineringsregler förhindrar AI:n från att fabricera information som inte finns i CV:t

Kvarvarande risk: avidentifieringen tar bort direkta identitetssignaler, inte indirekta. Språkmönster, utbildningsorter, arbetsgivarnamn och språkkunskaper kan fortsatt korrelera med demografiska grupper, och modellen kan ha träningsbias som påverkar poängsättningen. Bias-testsviten (avsnitt 5, lucka 1) mäter effekten av namnbyte; den mäter inte dessa indirekta signaler.

3.2 Rätt till privatliv (EU-stadgan art. 7, GDPR)

Risk: behandling av personuppgifter i CV:n, inklusive potentiellt känsliga personuppgifter.

Bedömning: LÅG risk — omfattande åtgärder vidtagna.

All data lagras på egenvärdade europeiska servrar — ingen molnbaserad AI-behandling
Art. 17 (radering): kandidater kan raderas av rekryterare; användare kan radera sina konton
Art. 20 (dataportabilitet): fullständig JSON-export tillgänglig
Art. 5(1)(e) (lagringsbegränsning): automatisk rensning efter 24 månaders inaktivitet
Art. 14 (information): per-jobb-toggle skickar kandidater en behandlingsnotis före AI-analys, med upplysning om AI-användning och personuppgiftsansvarigs identitet
Personuppgiftsbiträdesavtal tillgängligt för B2B-organisationer
Kryptering under överföring (TLS) och i vila (bcrypt för lösenord)
Rollbaserad åtkomstkontroll begränsar vilka som kan se kandidatdata
Ingen data delas med tredjeparts-AI-leverantörer

3.3 Rätt till mänsklig tillsyn (AI-förordningen art. 14)

Risk: automatiserade beslut utan meningsfull mänsklig granskning.

Bedömning: LÅG risk — människa-i-loopen genom design.

AI-resultat är uttryckligen beslutsstöd, inte automatiserade beslut
Rekryteraren fattar alltid det slutliga anställningsbeslutet
Gränssnittet märker alla resultat som AI-genererade med transparensdisclaimers (art. 50)
Rekommendationer är förslag — inte acceptera/avvisa-åtgärder
Ingen automatisk avvisning av kandidater om det inte uttryckligen aktiverats av rekryteraren
Även med automatisk avvisning skickas bara ett artigt notifieringsmail — kandidaten tas inte bort ur behandlingen i dashboarden

3.4 Rätt till transparens (AI-förordningen art. 13, 50)

Risk: användare och kandidater omedvetna om att AI är involverad i bedömningen.

Bedömning: LÅG risk — omfattande åtgärder vidtagna.

Alla analysresultat visar en AI-genererad disclaimer-badge (art. 50)
Publik endpoint GET /api/system/ai-info visar modellnamn och motor
Frontend visar modellnamnet under AI-disclaimern på resultatsidor
Behandlingsnotis enligt art. 14 informerar kandidater om AI-användning före analys
Integritetspolicy och användarvillkor refererar till art. 14, 26, 27 och 50
Kandidaternas resultatsidor, delade via token, innehåller AI-disclaimer

3.5 Rätt till effektivt rättsmedel (EU-stadgan art. 47)

Risk: kandidater har ingen möjlighet att invända om de anser att AI-bedömningen var orättvis.

Bedömning: MEDEL risk — åtgärdad 2026-08-03.

Rutin för invändning: kandidatens resultatsida och den publika ansökningssidan anger uttryckligen att analysen är ett underlag och att en människa hos arbetsgivaren fattar beslutet, tillsammans med tre vägar att invända:

Till arbetsgivaren — som är personuppgiftsansvarig och beslutsfattare, för invändningar om att bedömningen är felaktig eller vilar på något som missförståtts i CV:t
Till Fidoco (privacy@fidoco.se) — för frågor om behandlingen samt begäran om utdrag eller radering
Till Integritetsskyddsmyndigheten — för klagomål

Kvarvarande lucka: rutinen är en dokumenterad kontaktväg, inte en formaliserad omprövningsprocess med svarstider. Eftersom beslutet fattas av arbetsgivaren och inte av Fidoco ligger själva omprövningen hos distribuerande aktör (art. 26). Vi tillhandahåller underlaget — evidensbaserad output, spårbar modell och möjlighet att radera — så att distributören kan genomföra en omprövning.

3.6 Frihet från exploatering (arbetstagares rättigheter)

Risk: AI-system som skapar orättvisa screeninghinder eller utnyttjar maktasymmetri vid anställning.

Bedömning: LÅG risk.

Systemet ger strukturerad feedback, inte ogenomskinlig acceptera/avvisa
B2C-läget ger kandidater samma AI-analysverktyg — de kan se hur deras CV poängsätts
Kandidater som själva ansöker får samma kvalitet på analysen
Ingen beteendepoängsättning, analys av sociala medier eller personlighetsprofilering

4. Sammanfattning av tekniska skyddsåtgärder

Skyddsåtgärd	Implementering
Dataminimering	Enbart CV-text och jobbeskrivning behandlas; inga foton, ingen demografi
Identitetsblind bedömning	Namn, e-post, telefon, personnummer och profillänkar tas bort ur B2B-underlaget före modellen; promten förbjuder poängsättning på namn, kön, ålder, etnicitet eller adress
Ändamålsbegränsning	Data används uteslutande för CV-jobbmatchning
Korrekthet	Anti-hallucineringsregler i prompt. Varje styrka, tveksamhet och uppfylld krav-rad måste bära ett citat; en slutsats utan citat sparas inte. Krav som inte är uppfyllda behålls utan citat, så att brister aldrig döljs
Säkerhet	HTTPS, JWT-autentisering, hastighetsbegränsning, filvalidering, storleksbegränsningar, tidsbegränsade publika länkar, signerade och idempotenta Stripe-webhooks
Lokal behandling	All AI-inferens på europeiska egenvärdade GPU-servrar
Revisionsspår	Tidsstämplar, statusspårning, administratörsloggar
Datalagring för publika länkar	Delningslänkar och självansökningslänkar löper som standard ut efter 30 dagar och kan återkallas tidigare
Skydd mot prompt injection	Användarinput innesluten i XML-avgränsare med anti-injection-systemprompt
Modelltemperatur	0,2 på produktionsmotorn (vLLM) för konsekvent, faktabaserad output; höjs till 0,6 enbart vid omkörning efter ogiltig eller ofullständig JSON. Ollama-reserven kör 0,1

5. Luckor och åtgärdsplan

Vi publicerar åtgärdsplanen i sin helhet, inklusive det som ännu inte är gjort. En konsekvensbedömning utan öppna punkter är i regel inte färdig — den är oärlig.

#	Lucka	Risknivå	Planerad åtgärd	Måldatum
1	Formell bias-testning genomförd	Låg	Åtgärdad 2026-08-18. Identitetsblind bedömning införd (se 3.1) och bias-testsviten körd mot produktionsmodellen i två armar om 192 anrop vardera — 384 anrop totalt, fyra fall, sex namn (svensk-, arabisk-, somalisk- och polskkodade, könsbalanserade), åtta repetitioner per identitet. Resultat: ingen mätbar namnbias. Spridningen mellan namn ligger innanför brusgolvet i samtliga fall och båda armarna, och rekommendationsnivån är identisk för alla sex identiteter. Arm B fungerar som nollexperiment: med avidentifiering på är indata identiskt för alla identiteter, så dess spridning mäter enbart modellens egen slumpmässighet. Arm A:s spridning är omöjlig att skilja från den. Begränsningar: brusgolvet är 10–35 poäng, vilket utesluter en stor effekt men inte en på ett par poäng; mätningen täcker direkt namnbyte, inte indirekta signaler som språkmönster eller utbildningsort; resultatet gäller den nu körande modellen och sviten körs om vid modellbyte. Avidentifieringen behålls som borttagen mekanism, inte som åtgärd mot ett konstaterat fel	Klar
2	~~Ingen överklagandemekanism för kandidater~~	—	Stängd 2026-08-03. Invändningsvägen finns dokumenterad på kandidatens resultatsida och på ansökningssidan (se 3.5)	Klar
3a	~~Ingen mekanism och ingen visning för utfallsövervakning~~	—	Stängd 2026-09-01. Ett 90-dagarsfönster beräknar rekommendationsfördelning samt fördelning per grov namn-skript- och pronomensignal över upp till 1 000 analyser, och visas i admin-vyn. Under 30 analyser visas antalen men snittpoängen döljs — ett medelvärde på en handfull analyser är brus som ser ut som ett fynd. Inga känsliga etiketter lagras per kandidat	Klar
3b	Ingen automatisk avvikelsedetektering	Låg	Fördelningarna räknades tidigare om vid varje läsning och sparades aldrig, vilket gjorde drift omöjlig att mäta: man kan inte se att en fördelning rört sig om man aldrig minns var den stod. Sedan 2026-09-01 sparas därför en daterad mätpunkt per dygn. Kvarstår: en tröskel som larmar på drift mot systemets egen historik, och framför allt produktionsvolym. Observera att måttet jämför olika personer, till skillnad från bias-testsviten i lucka 1 som byter namn på samma CV — en skillnad mellan grupper kan komma från vem som sökt lika gärna som från modellen, och är aldrig i sig belägg för bias	2027-09-30
4	PBA kräver juridisk granskning	Låg	Låta PBA-mallen granskas av kvalificerad GDPR-jurist. Utlöses av första kund som begär ändringar i avtalet, dock senast angivet datum	2027-06-30

6. Slutsats

Fidoco Align är designat med skydd av grundläggande rättigheter som en grundprincip. Systemet fungerar som ett beslutsstödsverktyg med obligatorisk mänsklig tillsyn i rekryteringsprocessen. Centrala designval — lokal AI-behandling, evidensbaserade resultat, strukturerade prompter, transparensupplysningar och omfattande GDPR-verktyg — minskar väsentligt de risker som är förknippade med högrisk-AI-klassificering.

Den primära kvarvarande risken är potentiell implicit bias i den underliggande språkmodellen — gemensam för alla LLM-baserade system. Mätningen 2026-08-18 (lucka 1) visar ingen mätbar effekt av kandidatens namn på poängsättningen, men den utesluter bara en stor effekt och täcker enbart direkt namnbyte. Indirekta signaler — språkmönster, utbildningsort, arbetsgivarnamn — är inte testade, och utfallsövervakningen visas men larmar inte, och saknar volym (lucka 3b). Risken är därmed reducerad och belagd, inte eliminerad.

Kandidaternas möjlighet att invända var tidigare den andra huvudrisken. Den stängdes 2026-08-03 genom en dokumenterad invändningsväg på kandidatens resultatsida och på ansökningssidan. Kvar är att den formella omprövningen ligger hos distribuerande aktör, vilket följer av rollfördelningen i art. 26 snarare än av en brist i systemet.

Ingen av de kvarvarande luckorna utgör en kränkning av grundläggande rättigheter givet designen med människa-i-loopen.

Godkänd av: Firat Dogan · Titel: Grundare, Fidoco AB · Datum: 2026-08-03

Denna FRIA är ett levande dokument och granskas årligen eller vid väsentliga förändringar av AI-systemet. Den är upprättad internt av Fidoco AB och har ännu inte granskats av extern juridisk rådgivare — se lucka 4 i åtgärdsplanen.

Vad AI-förordningen innebär för er som arbetsgivare har vi samlat i en separat guide: AI i rekryteringen — vad gäller för svenska arbetsgivare?

Assessment date: 2026-04-15 · Assessor: Fidoco AB · Next review: 2027-06-30 (and no later than 2027-12-02, when the high-risk obligations start to apply)

This assessment is voluntary. Article 27 of the AI Act requires a fundamental rights impact assessment from deployers that are bodies governed by public law, private entities providing public services, and deployers of Annex III point 5(b) and 5(c) systems. Fidoco AB is a provider, not a deployer, and is therefore out of scope. We carried it out and published it anyway — partly because it makes the system better, and partly so our customers can use it in their own documentation.

1. System description

1.1 Overview

Fidoco Align is an AI-powered resume analysis platform that compares candidate resumes against job descriptions to produce match scores, recommendations and structured feedback. It serves two user segments:

B2C (individual users): job seekers upload their own resume for coaching-style feedback
B2B (organizations): recruiters upload candidate resumes for screening against job listings

1.2 AI model

Model: Qwen3-32B-NVFP4 (dense 32B parameters, NVFP4 4-bit quantization)
Inference engine: vLLM (primary) / Ollama (fallback)
Deployment: self-hosted on European servers with GPU acceleration
No external AI services: all inference runs locally — no data is sent to OpenAI, Google or any third-party AI provider

1.3 Data flow

Recruiter uploads candidate resume (PDF/DOCX/TXT)
Text extracted from file
Resume text and job description sent to the local AI model
AI generates structured JSON analysis (scores, recommendation, strengths, concerns)
Results stored in a PostgreSQL database on a European server
Recruiter reviews results in the dashboard and makes the final hiring decision

1.4 AI output

Match score (0–100): overall fit between resume and job description
Recommendation: Strong Yes / Yes / Maybe / No — a screening suggestion
Sub-scores: technical match, experience level, keyword coverage
Strengths: evidence-backed positive findings from the resume
Concerns: evidence-backed areas of mismatch, with severity levels
Missing qualifications: requirements from the job description not found in the resume

2. Risk classification

2.1 EU AI Act classification

Under the EU AI Act (Regulation 2024/1689), AI systems used in employment, workers management and access to self-employment are classified as high-risk (Annex III, Area 4, point (a)). Fidoco Align falls within this classification as it evaluates candidates against job descriptions.

Timing (updated 2026-08-03): under the Digital Omnibus — Regulation (EU) 2026/1744, published in the Official Journal on 24 July 2026 and in force from 27 July 2026 — the Annex III high-risk obligations apply from 2 December 2027 rather than 2 August 2026. The high-risk classification itself is unchanged; only the date on which the obligations start to apply has moved. The Article 50 transparency obligations were not postponed and have applied since 2 August 2026, and the Article 5 prohibitions have applied since 2 February 2025.

2.2 Deployer vs. provider

Fidoco AB is the provider of the AI system (Art. 3(3))
Organizations using Fidoco Align are deployers (Art. 3(4)) with their own obligations under Art. 26

3. Fundamental rights analysis

3.1 Right to non-discrimination (EU Charter Art. 21)

Risk: the AI model could systematically disadvantage candidates based on protected characteristics (gender, ethnicity, age, disability).

Assessment: MEDIUM risk — mitigated by design.

The model evaluates text matching only — it compares resume content against job description requirements
Identity-blind assessment (introduced 2026-08-17): name, email, phone number, national ID number and profile links are removed from the resume — and from any motivation letter — before it reaches the model. The recruiter still sees the full resume in the interface; it is the model's input that is de-identified
The B2B prompt explicitly instructs the model to assess only qualifications, skills and experience, and never to let name, gender, age, ethnicity, nationality or address influence the score or recommendation
Photos never reach the model: file parsing extracts text layers from PDF and DOCX only and never decodes images
No personal characteristics (photos, gender, age, ethnicity, nationality) are extracted, scored or stored as structured data
Anti-hallucination rules prevent the AI from fabricating information not in the resume

Residual risk: redaction removes direct identity signals, not indirect ones. Language patterns, places of education, employer names and language skills may still correlate with demographic groups, and the model may carry training bias that affects scoring. The bias test suite (Section 5, gap 1) measures the effect of swapping the name; it does not measure these indirect signals.

3.2 Right to privacy (EU Charter Art. 7, GDPR)

Risk: processing of personal data contained in resumes, including potentially special category data.

Assessment: LOW risk — comprehensively mitigated.

All data stored on self-hosted European servers — no cloud AI processing
Art. 17 (erasure): candidates can be deleted by recruiters; users can delete their accounts
Art. 20 (portability): full JSON data export available
Art. 5(1)(e) (storage limitation): automated purge after 24 months of inactivity
Art. 14 (information): a per-job toggle sends candidates a processing notification before AI analysis, disclosing AI usage and controller identity
Data Processing Agreement available for B2B organizations
Encryption in transit (TLS) and at rest (bcrypt for passwords)
Role-based access control limits who can view candidate data
No data shared with third-party AI providers

3.3 Right to human oversight (EU AI Act Art. 14)

Risk: automated decisions without meaningful human review.

Assessment: LOW risk — human-in-the-loop by design.

AI results are explicitly decision support, not automated decisions
The recruiter always makes the final hiring decision
The UI labels all results as AI-generated with transparency disclaimers (Art. 50)
Recommendations are suggestions — not accept/reject actions
No automated rejection of candidates unless explicitly enabled by the recruiter
Even then it only sends a polite notification email — the candidate is not removed from consideration in the dashboard

3.4 Right to transparency (EU AI Act Art. 13, 50)

Risk: users and candidates unaware that AI is involved in the assessment.

Assessment: LOW risk — comprehensively addressed.

All analysis results display an AI-generated disclaimer badge (Art. 50)
Public endpoint GET /api/system/ai-info discloses the model name and engine
The frontend displays the model name below the AI disclaimer on results pages
Art. 14 processing notifications inform candidates about AI usage before analysis
Privacy policy and terms of service reference Art. 14, 26, 27 and 50
Candidate-facing result pages, shared via token, include the AI disclaimer

3.5 Right to an effective remedy (EU Charter Art. 47)

Risk: candidates have no recourse if they believe the AI assessment was unfair.

Assessment: MEDIUM risk — addressed 2026-08-03.

Contest route: the candidate results page and the public application page state explicitly that the analysis is decision support and that a person at the employer makes the decision, together with three routes to contest it:

To the employer — the controller and decision-maker, for objections that the assessment is wrong or rests on something misread from the CV
To Fidoco (privacy@fidoco.se) — for questions about the processing and for access or erasure requests
To the Swedish Authority for Privacy Protection (IMY) — for complaints

Residual gap: the route is a documented contact path, not a formalised review process with response times. Because the decision is made by the employer rather than by Fidoco, the review itself sits with the deployer (Art. 26). We supply the material for it — evidence-based output, a traceable model and erasure on request — so that the deployer can carry out a review.

3.6 Freedom from exploitation (workers' rights)

Risk: AI system used to create unfair screening barriers or exploit power imbalance in hiring.

Assessment: LOW risk.

The system provides structured feedback, not opaque accept/reject
B2C mode gives candidates the same AI analysis tool — they can see how their resume scores
Candidates who self-submit receive the same quality analysis
No behavioral scoring, social media analysis or personality profiling

4. Technical safeguards summary

Safeguard	Implementation
Data minimization	Only resume text and job description processed; no photos, no demographics
Identity-blind assessment	Name, email, phone, national ID and profile links removed from the B2B input before the model; the prompt forbids scoring on name, gender, age, ethnicity or address
Purpose limitation	Data used solely for resume-job matching
Accuracy	Anti-hallucination prompt rules. Every strength, concern and met requirement must carry a quote; a finding without one is not persisted. Unmet requirements are kept without a quote, so gaps are never hidden
Security	HTTPS, JWT auth, rate limiting, file validation, input size limits, expiring public links, signed and idempotent Stripe webhooks
Local processing	All AI inference on European self-hosted GPU servers
Audit trail	Submission timestamps, status tracking, admin audit logs
Retention on public links	Candidate share and self-submission links expire by default after 30 days and can be revoked earlier
Prompt injection protection	User inputs wrapped in XML delimiters with anti-injection system prompt
Model temperature	0.2 on the production engine (vLLM) for consistent, factual output; raised to 0.6 only when a response is re-run after invalid or incomplete JSON. The Ollama fallback runs at 0.1

5. Gaps and action items

We publish the action plan in full, including what has not been done yet. An impact assessment with no open items is usually not finished — it is dishonest.

#	Gap	Risk level	Planned action	Target date
1	Formal bias testing completed	Low	Closed 2026-08-18. Identity-blind assessment introduced (see 3.1) and the bias test suite run against the production model in two arms of 192 calls each — 384 calls total, four cases, six names (Swedish-, Arabic-, Somali- and Polish-coded, gender-balanced), eight repeats per identity. Result: no measurable name bias. The spread between names falls within the noise floor in every case and both arms, and the recommendation tier is identical across all six identities. Arm B serves as the null experiment: with redaction on, the input is identical for every identity, so its spread measures only the model's own sampling variance. Arm A's spread is indistinguishable from it. Limitations: the noise floor is 10–35 points, which excludes a large effect but not one of a few points; the measurement covers direct name substitution, not indirect signals such as language patterns or places of education; the result applies to the currently running model and the suite is re-run on any model change. Redaction is retained as a removed mechanism, not as a fix for a demonstrated defect	Done
2	~~No candidate appeal mechanism~~	—	Closed 2026-08-03. The contest route is documented on the candidate results page and the application page (see 3.5)	Done
3a	~~No mechanism and no view for outcome monitoring~~	—	Closed 2026-09-01. A 90-day window computes the recommendation distribution and the distribution across coarse name-script and pronoun signals over up to 1,000 analyses, and it is shown in the admin view. Below 30 analyses the counts render but average scores are hidden — a mean over a handful of analyses is noise that looks like a finding. No sensitive labels are stored per candidate	Done
3b	No automatic deviation detection	Low	The distributions used to be recomputed on every read and never stored, which made drift impossible to measure: you cannot see that a distribution has moved if you never remember where it stood. Since 2026-09-01 a dated data point is stored once per day. Outstanding: a threshold that alerts on drift against the system's own history, and above all production volume. Note that the measure compares different people, unlike the bias test suite in gap 1 which swaps the name on the same resume — a difference between groups may come from who applied just as easily as from the model, and is never on its own evidence of bias	2027-09-30
4	DPA requires legal review	Low	Have the DPA template reviewed by qualified GDPR counsel. Triggered by the first customer requesting changes to the agreement, and no later than the target date	2027-06-30

6. Conclusion

Fidoco Align is designed with fundamental rights protection as a core principle. The system operates as a decision support tool with mandatory human oversight in the recruitment workflow. Key design choices — local AI processing, evidence-based outputs, structured prompts, transparency disclosures and comprehensive GDPR tooling — substantially reduce the risks associated with high-risk AI classification.

The primary residual risk is potential implicit bias in the underlying language model — common to all LLM-based systems. The measurement of 2026-08-18 (gap 1) shows no measurable effect of the candidate's name on scoring, but it only excludes a large effect and covers direct name substitution alone. Indirect signals — language patterns, places of education, employer names — are untested, and outcome monitoring is surfaced but does not alert, and lacks volume (gap 3b). The risk is therefore reduced and evidenced, not eliminated.

Candidates' ability to contest an assessment was previously the second main risk. It was closed on 2026-08-03 through a documented contest route on the candidate results page and the application page. What remains is that the formal review sits with the deployer, which follows from the allocation of roles in Art. 26 rather than from a shortcoming in the system.

None of the residual gaps represents a fundamental rights violation given the human-in-the-loop design.

Approved by: Firat Dogan · Title: Founder, Fidoco AB · Date: 2026-08-03

This FRIA is a living document and is reviewed annually or when significant changes are made to the AI system. It was prepared internally by Fidoco AB and has not yet been reviewed by external legal counsel — see item 4 in the action plan.

What the AI Act means for you as an employer is covered in a separate guide: AI in recruitment — what applies to Swedish employers?

← Tillbaka till säkerhet & förtroende