O debate sobre a autonomia da IA em sistemas de segurança frequentemente enquadra a escolha como binária: ou a IA decide e atua, ou os humanos decidem e atuam. A realidade de sistemas de segurança bem projetados é mais matizada: diferentes tipos de eventos requerem diferentes tipos de resposta, e o design do sistema de resposta é tão importante quanto o design do sistema de deteção.
Este quadro de decisão ajuda as equipas de segurança a mapear o tipo de resposta correto para cada tipo de deteção.
O espectro de resposta
Os sistemas de resposta a alertas de segurança podem ser organizados num espectro:
Registo apenas: O evento é registado para revisão posterior mas não gera nenhum alerta em tempo real. Adequado para eventos de baixo risco ou de alta frequência onde a análise de padrão é mais valiosa do que a resposta em tempo real.
Alerta para revisão humana: O evento aciona um alerta que um humano revê e sobre o qual decide agir. A resposta depende da capacidade de atenção humana e do tempo de resposta. Adequado para a maioria dos eventos de segurança.
Alerta com escalonamento automatizado: Se o alerta não for reconhecido dentro de um período de tempo configurável, escala automaticamente para o respondedor seguinte na cadeia. Reduz o risco de alertas que ficam sem resposta quando o respondedor primário está indisponível.
Transmissão automatizada: O evento aciona uma transmissão automática de voz ou mensagem — "Zona vermelha ativa na baía 4" — sem que um humano precise de aprovar cada transmissão. Adequado para alertas de alta frequência onde o atraso de aprovação humana eliminaria o valor do aviso antecipado.
Intervenção automatizada: O evento aciona uma ação física — paragem de veículo, bloqueio de portão, desativação de equipamento. Adequado apenas para eventos de risco muito alto onde o atraso humano torna a prevenção impossível, e apenas com salvaguardas extensas.
Correspondendo resposta à categoria de evento
Conflito veículo-pedestre de alta urgência (< 3 segundos para possível contacto): A resposta de transmissão automatizada — PA a anunciar a zona de conflito — é adequada se o tempo humano de aprovação tornaria o aviso ineficaz. A intervenção automatizada de paragem de veículo pode ser considerada em ambientes de paragem automática projetados especificamente para o efeito.
Violação de zona vermelha: Alerta imediato para revisão humana com escalonamento automatizado se não reconhecido dentro de 30 segundos. A transmissão automática de PA pode ser configurada para alertas de zona vermelha de alta prioridade.
Queda ou person-on-ground: Alerta para revisão humana imediata com protocolo de resposta de emergência definido. A natureza potencialmente médica do evento requer avaliação humana antes de determinar a resposta.
Não conformidade de EPI: Alerta para revisão humana para ação de supervisão — não intervenção automatizada. A sinalização de EPI é uma questão de coaching e correção de comportamento, não de paragem de emergência.
Excesso de velocidade de veículo: Registo e alerta para revisão humana; transmissão de aviso automatizada em casos de excesso de velocidade severo em áreas de alta densidade. Intervenção automatizada apenas em sistemas de redução de velocidade projetados especificamente.
A regra de design
Para cada tipo de alerta, responda a estas questões:
- Quanto tempo há para agir antes de o risco se converter em dano?
- Qual é a consequência de um falso positivo que desencadeie a ação de resposta?
- A ação de resposta é reversível se for baseada numa deteção incorreta?
- Quem tem autoridade para tomar esta decisão de ação?
As respostas a estas questões determinam onde cada tipo de alerta deveria sentar-se no espectro de resposta. O design desse espectro deve acontecer antes que o sistema entre em produção — não em resposta ao primeiro falso positivo que produz consequências não intencionais.
