Usar, testar, adiar ou não usar?

O fechamento precisa servir a dois grupos

As duas posições podem produzir uma decisão excelente.

O texto chegou pronto

Quem decide, quem responde e quem pode dizer “pare”?

Enquete: qual ausência preocupa primeiro?

O que devemos conseguir fazer hoje?

Ao final, a turma deverá ser capaz de:

• responder que problema do doutorado pode ser apoiado, monitorado, analisado, implementado ou disseminado;
• justificar a escolha de usar, testar, adiar ou não usar tecnologia;
• apresentar plano mínimo com responsáveis, indicadores, riscos, equidade, revisão e interrupção;
• identificar condições de proteção de dados, revisão ética, responsabilidade pelo registro e declaração de uso de IA;
• defender um brief decisório curto e auditável.

Percurso em 240 minutos

Seis encontros, uma pergunta crescente

A pergunta final do curso

Qual problema do meu doutorado pode ser melhor apoiado, monitorado, analisado, implementado ou disseminado por Informática em Saúde?

A tese do encontro

Tecnologia responsável é aquela cujas decisões, efeitos e limites continuam observáveis, contestáveis e revisáveis.

Governança, gestão e liderança não são sinônimos

Três dimensões, uma responsabilidade compartilhada

Pergunta: qual círculo costuma absorver problemas que deveriam ser decididos em outro?

Direito de decisão: verbo, ator e limite

Uma decisão governável explicita:

• qual verbo: autorizar, configurar, ampliar, suspender, retirar;
• qual ator: papel nomeado, não “a equipe”;
• qual limite: escopo, prazo, condição e instância de revisão;
• qual registro: decisão, justificativa e evidência considerada.

Uma matriz para impedir a autoridade invisível

Às 2h, a saída parece incorreta

Governança é um ecossistema de perspectivas

A fonte descreve governança com representação dos principais participantes, liderança clínica, financeira e administrativa e envolvimento de usuários na definição de prioridades e recursos.

[Fonte: 2-Biomedical-Informatics__XVI-Management-of-Information-in-Health-Care-Organizations.pdf, p. 21, trecho: 2-biomedical-informatics-xvi-management-of-information-in-health-ca-113b5c732f50__p0021__c002]

Quem falta muda o que pode ser visto

Accountability não é procurar um culpado depois

É tornar possível reconstruir:

1. quem decidiu;
2. com qual evidência e justificativa;
3. quem executou e monitorou;
4. qual resposta ocorreu diante do efeito observado.

A cadeia precisa terminar em resposta

“O humano revisa” não distribui responsabilidade

Proposta pedagógica: pergunte:

• o revisor tem tempo, competência e dados suficientes?
• pode discordar sem custo ou atraso indevido?
• sua alteração fica registrada e gera aprendizagem?
• existe alternativa segura quando o sistema não está disponível?

Ética aplicada começa antes da resposta pronta

Ela pergunta se, por quem e sob quais circunstâncias uma ação deve ocorrer — considerando fatos, desconhecidos, alternativas e o que deveria ser feito.

[Fonte: 3-Intelligent-Systems__XVIII-Ethical-and-Policy-Issues.pdf, p. 02, trecho: 3-intelligent-systems-xviii-ethical-and-policy-issues__p0002__c001]

Ética atravessa o ciclo de vida

Tensões éticas não desaparecem com uma pontuação

Consentimento não substitui governança contínua

LGPD, art. 11 · dados pessoais sensíveis

• Consentimento específico e destacado para finalidades específicas.
• Hipóteses sem consentimento, quando indispensável, nos termos do artigo.
• Entre elas: estudos por órgão de pesquisa e tutela da saúde.

[Fonte: 6-Extra__L13709compilado.pdf, p. 06, trecho: 6-extra-l13709compilado__p0006__c001]

Registro de enfermagem: quem confere e assume?

Resolução Cofen nº 754/2024

O texto atribui aos profissionais de enfermagem o dever de registrar informações do cuidado e trata de sigilo, identificação e assinatura dos registros eletrônicos.

[Fonte: 6-Extra__RESOLUCAO-COFEN-No-754-DE-16-DE-MAIO-DE-2024-Cofen.pdf, p. 02, trecho: 6-extra-resolucao-cofen-no-754-de-16-de-maio-de-2024-cofen__p0002__c001]

Banco assistencial pode virar pesquisa?

Resolução CNS nº 738/2024 · art. 20

O texto prevê apreciação pelo Sistema CEP/Conep de protocolos que constituam bancos de dados ou utilizem bancos criados para outras finalidades.

Seus parágrafos distinguem consentimento, novo consentimento e situações de dispensa pelo Sistema CEP/Conep.

[Fonte: 6-Extra__resolucao-no-738-de-01-de-fevereiro-de-2024.pdf, p. 08, trecho: 6-extra-resolucao-no-738-de-01-de-fevereiro-de-2024__p0008__c001]

Uso de IA na pesquisa precisa ficar explícito

Diretrizes de integridade na pesquisa apoiada pelo CNPq

Orientam declarar a ferramenta e a finalidade do uso de IA generativa em qualquer fase da pesquisa.

[Fonte: 6-Extra__Diretrizes-Conselho-Nacional-de-Desenvolvimento-Cientifico-e-Tecnologico.pdf, p. 01, trecho: 6-extra-diretrizes-conselho-nacional-de-desenvolvimento-cientifico-e-tecnologico__p0001__c001]

Incidente com dados: quem comunica?

LGPD, art. 48

O controlador deverá comunicar à autoridade nacional e ao titular o incidente de segurança que possa acarretar risco ou dano relevante aos titulares.

[Fonte: 6-Extra__L13709compilado.pdf, p. 15, trecho: 6-extra-l13709compilado__p0015__c001]

Participar é poder alterar a decisão

Contestabilidade precisa de mecanismo

LGPD, art. 20

O titular pode solicitar revisão de decisões unicamente automatizadas que afetem seus interesses e informações sobre os critérios e procedimentos, observados os segredos comercial e industrial.

[Fonte: 6-Extra__L13709compilado.pdf, p. 09, trecho: 6-extra-l13709compilado__p0009__c002]

Implementar tecnologia é redesenhar trabalho

Um plano de implementação precisa sustentar pessoas e processos, não apenas instalar componentes. Enfermeiros podem conectar o projeto ao cuidado e ao fluxo assistencial.

[Fonte: 4-Health-Informatics__II-Theoretical-Frameworks.pdf, p. 39, trecho: 4-health-informatics-ii-theoretical-frameworks__p0039__c001]

Framework organiza perguntas; não decide pelo grupo

Ciclo de vida de sistemas · análise e planejamento

[Fonte: 4-Health-Informatics__II-Theoretical-Frameworks.pdf, p. 39, trecho: 4-health-informatics-ii-theoretical-frameworks__p0039__c001]

“Resistência” pode ser dado sobre o sistema

Antes de atribuir o problema à pessoa, investigue:

• perda de informação ou autonomia;
• duplicação e carga de trabalho;
• incompatibilidade com o fluxo;
• risco percebido sem canal de resposta;
• suporte ou treinamento insuficientes.

Liderança de enfermagem faz a tradução circular

Entre cuidado e tecnologia, a liderança:

• torna o trabalho clínico visível;
• mobiliza profissionais e stakeholders;
• conecta feedback a decisão e suporte;
• preserva perguntas sobre paciente, risco e contexto.

Quatro movimentos de liderança digital

Mudança precisa continuar depois do go-live

O ciclo de vida retorna à análise e ao aperfeiçoamento após a implantação, com atualizações, melhorias e novos projetos sobre o trabalho realizado.

[Fonte: 4-Health-Informatics__II-Theoretical-Frameworks.pdf, p. 40, trecho: 4-health-informatics-ii-theoretical-frameworks__p0040__c001]

Vigilância tecnológica: observar depois de implantar

O desempenho pode variar entre populações, ambientes e períodos. A fonte destaca a importância de monitorar e atualizar os modelos durante o uso.

[Fonte: 3-Intelligent-Systems__X-Integration-of-AI-for-Clinical-Decision-Support.pdf, p. 15, trecho: 3-intelligent-systems-x-integration-of-ai-for-clinical-decision-support__p0015__c001]

Um painel precisa ligar sinal a ação

Gatilho sem resposta é apenas decoração

Cada gatilho precisa de dono e prazo

Retirar com segurança também é governar

Retirada não deve significar abandono. Ela exige:

• contenção do uso;
• continuidade assistencial;
• comunicação aos afetados;
• preservação de registros para análise;
• critérios explícitos antes de eventual retorno.

Cinco movimentos de retirada segura

O resumo omitiu uma informação relevante

Corrigir a nota basta? O que o sistema precisa aprender — e quem decide?

IA generativa: usos diferentes, riscos diferentes

Quanto mais a saída influencia decisão e trabalho, maior a exigência de evidência, supervisão e governança.

Matriz: impacto da decisão × incerteza

O problema vai além de “alucinação”

Analise também:

• propósito e limite de uso;
• proveniência e acesso aos dados;
• incorreções plausíveis e omissões;
• automação do julgamento;
• variação entre contextos e grupos;
• dependência do fornecedor e capacidade de retirada.

Horizonte opcional · gêmeos digitais

A fonte local descreve a ideia de uma cópia digital atualizada por dados para representar uma pessoa e explorar cenários in silico.

[Fonte: 3-Intelligent-Systems__XIX-Anticipating-the-Future-of-Artificial-Intelligence-in-Medicine-and-Health-Care-A-Clinical-Data-Science-Perspective.pdf, p. 06, trecho: 3-intelligent-systems-xix-anticipating-the-future-of-artificial-int-57c44a7a43c1__p0006__c001]

O que muda quando uma representação passa a orientar uma ação?

Maturidade funcional aumenta a exigência

Tecnologia emergente: maturidade não é impacto

Volta ao Caso Horizonte: três decisões possíveis

Oficina: construa o brief decisório

Produção: 70 min · Pitches e crítica: 30 min

Comece pelo próprio doutorado

Brief decisório em uma página

Sete movimentos em 70 minutos

Recomendação condicionada, não promessa

Pitches: tornar o raciocínio auditável

Por grupo: 5–7 min de pitch · 3 min de perguntas · 1 min de resposta final

Tecnologia responsável continua revisável

Minuto de saída e leituras

Para retomar: apostila, seções 6.5–6.10, 7.3 e 14; dispositivos locais, aplicação ao caso e brief.