Artificial Intelligence and Algorithms

Our draft list of algorithms, tools and systems powered by data across the OPS. | Notre ébauche de liste d’algorithmes, outils et systèmes alimentés par des données de l’ensemble de la FPO.

English text – French text follows

Texte anglais – texte français suit

What is an algorithm?

An algorithm is a set of steps to complete a task, solve a problem or make a decision. In data science, if raw data are building bricks, then algorithms are the instruction manuals. As a government what we build out of our data – decisions, policies, forecasts, etc. - impacts people, communities and ecosystems in both big and small ways.

What should I know about an algorithm?

To fully participate in discussions about the use, misuse or improvement of an algorithm we all need to know some basic information about the tool, system or algorithm. The entries on the Data Catalogue should provide a common understanding of the following questions through the following metadata fields:

Question(s): What should I call it?

Catalogue Metadata field: Title

Question(s): Why is the government using it? How does it add value or efficiency to the decision-making process?

Catalogue Metadata field: Description – Purpose

Question(s): How much does it influence the decision or outcome?

Catalogue Metadata field: Description – Reach

Question(s): How might it affect me? My community? Other people or communities? The environment?

Catalogue Metadata field: Description – Potential impacts

Question(s): What rules does the government need to follow when using it?

Catalogue Metadata field: Description – Internal use policies

Question(s): What tool(s) or technology is used?

Catalogue Metadata field: Description – Technical description

What feedback could I provide

After reviewing the algorithms listed on the data catalogue, consider the following questions and reach out to our team with your thoughts and comments:

  • Were you able to learn enough about the algorithms included in the data catalogue to answer the questions listed above?
  • Are there other aspects of algorithms, tools or systems that should be explained on the data catalogue to help you better understand how they are used?
  • Would listing more algorithms on the data catalogue increase your understanding of automated decision-making in the government? Why or why not?

Why add algorithms to the data catalogue?

We all follow steps to make decisions. In government, these steps are sometimes formalized into an algorithm, tool (like a calculator) or system. The outputs of these algorithms, tools or systems can inform a decision made by a human or make a decision on behalf of a human. This shift away from fully human made decisions allows greater opportunity for efficiencies and equality, but also risks augmenting existing inequalities. Transparency of use allows all of us to be aware of when, how and why decisions are automated, so we can all discuss the merits or appropriateness of use, availability of recourse options and necessary improvements to these tools, systems or algorithms to ensure they are benefiting everyone without causing harm.

How does transparency of algorithms fit within responsible use of Artificial Intelligence (AI)?

Artificial Intelligence or AI, is a class of technology that can solve problems by being able to learn and develop solutions without human intervention. Automated Decision-making Systems (ADS) are a type of AI. By including algorithms, including those that support automated decision-making, the government of Ontario is providing public notice of the use of AI/ADS by the government.

Public notice is key to people’s ability to inform, question and hold accountable the unseen AI used to make government services simpler, faster, better. Starting with transparent use we are working towards a governance framework for AI in Ontario that is responsive, adaptive and fair.

Watch for more about responsible use of AI in Ontario by following or getting involved in the development of Guidance for AI use by our government.

Notre ébauche de liste d’algorithmes, outils et systèmes alimentés par des données de l’ensemble de la FPO.

Qu’est-ce qu’un algorithme?

Un algorithme est un ensemble d’étapes nécessaires pour accomplir une tâche, résoudre un problème ou prendre une décision. En science des données, si les données brutes sont les briques de construction, alors les algorithmes représentent le mode d’emploi. En tant que gouvernement, ce que nous créons avec nos données – décisions, politiques, prévisions, etc. - a des conséquences tant modestes qu’importantes sur les gens, les collectivités et les écosystèmes.

Que dois-je savoir à propos d’un algorithme?

Afin de pleinement participer à des discussions concernant l’utilisation, la mauvaise utilisation ou l’amélioration d’un algorithme, nous devons tous connaître certains renseignements de base à propos de l’outil, du système ou de l’algorithme. Les entrées du Catalogue de données devraient fournir une compréhension commune des questions suivantes grâce aux champs de métadonnées suivants :

Question(s) : Comment devrais-je l’appeler?

Champ de métadonnées du catalogue : Titre

Question(s) : Pourquoi le gouvernement l’utilise-t-il? De quelle façon ajoute-t-il de la valeur ou de l’efficience au processus décisionnel?

Champ de métadonnées du catalogue : Description – Objet

Question(s) : Dans quelle mesure influence-t-il la décision ou le résultat?

Champ de métadonnées du catalogue : Description – Portée

Question(s) : De quelle façon peut-il avoir une incidence sur moi? Sur ma collectivité? Sur d’autres personnes ou collectivités? Sur l’environnement?

Champ de métadonnées du catalogue : Description – Impacts possibles

Question(s) : Quelles sont les règles que doit suivre le gouvernement lorsqu’il l’utilise?

Champ de métadonnées du catalogue : Description – Politiques d’utilisation à l’interne

Question(s) : Quels sont les outils ou technologies utilisés?

Champ de métadonnées du catalogue : Description – Description technique

Quel type de rétroaction puis-je fournir

Après avoir examiné les algorithmes mentionnés dans le catalogue des données, réfléchissez aux questions qui suivent et communiquez avec notre équipe pour faire part de vos réflexions et commentaires :

  • Avez-vous pu en apprendre suffisamment à propos des algorithmes inclus dans le catalogue de données pour répondre aux questions mentionnées plus haut?
  • Y a-t-il d’autres aspects des algorithmes, outils ou systèmes qui devraient être expliqués dans le catalogue de données pour vous aider à mieux comprendre la façon dont ils sont utilisés?
  • Le fait d’inscrire un plus grand nombre d’algorithmes au catalogue de données augmenterait-il votre compréhension du processus décisionnel automatisé au gouvernement? Pourquoi?

Pourquoi ajouter des algorithmes au catalogue de données?

Nous suivons tous des étapes pour prendre des décisions. Au gouvernement, ces étapes sont parfois officialisées dans un algorithme, un outil (par exemple un calculateur) ou un système. Les extrants de ces algorithmes, outils ou systèmes peuvent éclairer une décision prise par un être humain ou prendre une décision au nom d’un être humain. Cet éloignement de décisions entièrement humaines offre plus d’occasions de réaliser des gains d’efficacité et d’atteindre l’égalité, mais risque également d’accroître les iniquités existantes. La transparence d’utilisation nous permet à tous de savoir quand, comment et pourquoi les décisions sont automatisées afin que nous puissions tous discuter des avantages ou du caractère approprié de l’utilisation de ces outils, systèmes ou algorithmes, de l’offre de possibilités de recours et des améliorations nécessaires à leur apporter pour s’assurer qu’ils profitent à tous sans causer de préjudice.

En quoi la transparence des algorithmes s’inscrit-elle dans l’utilisation responsable de l’intelligence artificielle (IA)?

L’intelligence artificielle, ou IA, est une catégorie de technologie pouvant solutionner des problèmes en étant en mesure d’apprendre et de concevoir des solutions sans l’intervention humaine. Les systèmes de prise de décision automatisée (SPDA) constituent un type d’IA. En incluant des algorithmes, y compris ceux qui appuient la prise de décision automatisée, le gouvernement de l'Ontario donne un avis public de l’utilisation de l’IA ou d’un SPDA par le gouvernement.

Un avis public est essentiel pour permettre aux gens de s’informer sur l’IA invisible utilisée pour rendre les services gouvernementaux plus simples, plus rapides et meilleurs, de le remettre en question et de le rendre imputable. En commençant par une utilisation transparente, nous nous orientons vers un cadre de gouvernance pour l’IA en Ontario qui est réceptif, adaptable et équitable.

Restez à l’affut pour de plus amples renseignements à propos de l’utilisation responsable de l’IA en Ontario en suivant la création de [Conseils sur l'IA] par notre gouvernement ou en y participant.