Universitat Internacional de Catalunya
L’atenció a l’alumnat es realitzarà amb cita prèvia, concertada mitjançant el correu electrònic institucional del
professor: jgonzalezs@uic.es.
L’assignatura introdueix els fonaments, les aplicacions i els criteris d’avaluació de la intel·ligència artificial en
l’àmbit de la salut des de la perspectiva de la bioenginyeria. Es treballen exemples relacionats amb imatges
mèdiques, senyals biomèdics, sensors, dispositius, recerca biomèdica i suport a les decisions assistencials.
L’alumnat aprendrà a identificar una necessitat, valorar la qualitat de les dades i de l’evidència científica i
formular una proposta que tingui en compte els usuaris, la seguretat, l’ètica i les condicions d’aplicació. El curs
s’articula al voltant d’un projecte individual de disseny i avaluació d’una aplicació d’intel·ligència artificial per a
la salut. L’assignatura s’imparteix en anglès.
Es recomana disposar dels coneixements bàsics de bioestadística, fisiologia, instrumentació biomèdica, senyals
i sistemes i ètica adquirits en els cursos anteriors del grau. Cal poder seguir les classes i consultar bibliografia
científica en anglès. No es requereixen coneixements previs de programació ni d’entrenament de models
d’intel·ligència artificial.
Conèixer les principals famílies de sistemes d’intel·ligència artificial i les seves aplicacions en bioenginyeria i
salut.
Definir problemes de salut, usos previstos i alternatives tecnològiques a partir de necessitats concretes.
Adquirir criteris per analitzar les dades, interpretar els resultats i valorar críticament l’evidència científica.
Integrar els factors humans, la seguretat, l’ètica, la protecció de dades i la regulació en el disseny i
l’avaluació d’una proposta.
Desenvolupar i defensar una proposta individual fonamentada, identificant-ne la viabilitat, les limitacions i
les necessitats de validació.
En finalitzar l’assignatura, l’alumnat serà capaç de:
1. Explicar les diferències entre sistemes basats en regles, aprenentatge automàtic, aprenentatge profund,
intel·ligència artificial generativa i agents, i reconèixer-ne les aplicacions i limitacions.
2. Definir una necessitat de salut, els usuaris, la població, el context, la decisió i els límits d’ús d’una proposta,
comparant-la amb una alternativa sense intel·ligència artificial.
3. Analitzar la procedència, la qualitat i la representativitat de les dades, i identificar biaixos, problemes
d’etiquetatge, fuites d’informació i canvis de distribució.
4. Interpretar mètriques, llindars, calibratge i resultats de validació, i valorar si l’evidència permet justificar una
utilitat clínica o assistencial.
5. Dissenyar un flux de treball que especifiqui les funcions dels usuaris, la supervisió humana i les actuacions
davant d’errors o situacions excepcionals.
6. Valorar les implicacions ètiques, d’equitat, accessibilitat, privacitat i sostenibilitat d’una aplicació.
7. Identificar els riscos i les qüestions de regulació, qualitat i seguretat que cal revisar abans d’una possible
aplicació en salut.
8. Reconèixer amenaces bàsiques de ciberseguretat i proposar mesures de prevenció, resposta i continuïtat
segura.
9. Formular requisits verificables i un pla de validació, seguiment, actualització i retirada d’un sistema.
10. Elaborar i defensar en anglès una recomanació fonamentada, amb fonts identificables, responsabilitats
definides i incerteses explícites.
Bloc 1 Fonaments i definició del problema
Principals famílies d’intel·ligència artificial i aplicacions en bioenginyeria. Relació entre model, sistema i
producte sanitari. Necessitat de salut, població, usuaris, context, ús previst i alternatives sense intel·ligència
artificial.
Bloc 2 Dades i aplicacions biomèdiques
Imatges, senyals, sensors, text i dades clíniques. Qualitat, representativitat, etiquetatge, privacitat i traçabilitat.
Biaixos, factors de confusió, fuites d’informació i canvis en les dades. Selecció conceptual de l’enfocament
tecnològic.
Bloc 3 Rendiment i evidència científica
Matriu de confusió, prevalença, mètriques, llindars, calibratge i incertesa. Validació interna i externa.
Comparadors, generalització i utilitat clínica. Cerca i lectura crítica d’articles, experiències d’implantació i
afirmacions comercials.
Bloc 4 Usuaris i organització assistencial
Fluxos de treball, responsabilitats, capacitat i recursos. Factors humans, supervisió professional, accessibilitat i
comunicació. Errors, desacords entre persones i sistemes, càrrega de treball i procediments alternatius.
Bloc 5 Ètica i seguretat
Autonomia, benefici, dany, equitat, transparència i sostenibilitat. Protecció de dades, regulació de la
intel·ligència artificial i dels productes sanitaris, qualitat i gestió de riscos. Ciberseguretat i ús segur de sistemes
generatius i agents.
Bloc 6 Desenvolupament i avaluació de la proposta
Requisits verificables, interoperabilitat, comparació de solucions i viabilitat. Disseny d’un possible pilot,
mesures de resultat i criteris d’aturada. Seguiment, incidències, actualitzacions i retirada. Elaboració del dossier
d’evidències i defensa de la recomanació final.
Els continguts es desenvolupen durant dotze sessions d’aprenentatge i treball del projecte. La tretzena sessió
es dedica exclusivament a les presentacions i defenses finals.
La docència combina classes teòriques participatives, anàlisi de casos, lectura crítica d’articles científics,
exercicis d’interpretació de dades i treball individual guiat. Les sessions tenen una durada de dues hores i
integren una exposició inicial dels conceptes amb activitats d’aplicació i desenvolupament del projecte.
Cada estudiant elabora progressivament un únic informe individual. Les activitats de les sessions n’alimenten
els diferents apartats i permeten revisar les decisions anteriors. Es preveuen tres punts de seguiment formatiu
per discutir l’evidència, la viabilitat i la recomanació final. Les revisions i els comentaris del professor
s’incorporen al mateix treball.
El treball autònom inclou la consulta de bibliografia, l’anàlisi de fonts i casos, la redacció de l’informe i la
preparació de la defensa. El projecte és una proposta de disseny i avaluació; no requereix programar, entrenar
models ni obtenir dades de pacients. Les consultes a professionals, quan siguin possibles i autoritzades,
complementaran les fonts documentals.
L’avaluació es basa en el projecte individual desenvolupat al llarg del curs i en el bloc conjunt de defensa oral i
assistència, amb la ponderació següent:
Activitat Pes
Projecte individual 70%
Defensa oral i assistència 30%
En el projecte es valoraran la definició del problema i de l’ús previst, la qualitat i la traçabilitat de les fonts,
l’anàlisi crítica de l’evidència, la justificació de les decisions, la viabilitat de la proposta i la consideració dels
riscos i les limitacions.
En la defensa es valoraran la comprensió del treball, la claredat de l’exposició i la capacitat de justificar les
decisions i respondre les preguntes. L’assistència forma part del mateix bloc del 30%. Els punts de seguiment
del projecte tenen una funció formativa i no constitueixen activitats amb una ponderació addicional.
L’alumnat ha d’identificar les fonts utilitzades i assumir l’autoria de les decisions i conclusions. Quan es facin
servir eines d’intel·ligència artificial com a suport, cal declarar-ne l’ús i verificar-ne críticament els resultats. El
tractament de les incidències acadèmiques s’ajustarà a la normativa de la UIC.
Materials bàsics: llibre, presentacions, fitxes de treball i selecció d’articles científics facilitats pel professor al
campus virtual.
Bibliografia de referència:
World Health Organization. Ethics and governance of artificial intelligence for health. 2021.
World Health Organization. Regulatory considerations on artificial intelligence for health. 2023.
Recursos normatius de consulta:
Unió Europea. Reglament (UE) 2024/1689 sobre intel·ligència artificial.
Unió Europea. Reglament (UE) 2017/745 sobre productes sanitaris.
Unió Europea. Reglament (UE) 2016/679 general de protecció de dades.
La bibliografia específica de cada tema i els fragments de consulta s’indicaran al campus virtual.