Développement InnerLoop avec Python

1. Présentation

Cet atelier présente des fonctionnalités conçues pour simplifier le workflow de développement des ingénieurs logiciel chargés de développer des applications Python dans un environnement conteneurisé. En règle générale, le développement de conteneurs nécessite que l'utilisateur comprenne les détails des conteneurs et le processus de création de conteneurs. De plus, les développeurs doivent généralement interrompre leur flux et sortir de leur IDE pour tester et déboguer leurs applications dans des environnements distants. Grâce aux outils et technologies mentionnés dans ce tutoriel, les développeurs peuvent travailler efficacement avec des applications conteneurisées sans quitter leur IDE.

Objectifs de l'atelier

Dans cet atelier, vous allez découvrir des méthodes de développement avec des conteneurs dans GCP, y compris:

• Créer une application de démarrage Python
• Présentation du processus de développement
• Développer un service de repos CRUD simple

2. Préparation

Configuration de l'environnement d'auto-formation

1. Connectez-vous à la console Google Cloud, puis créez un projet ou réutilisez un projet existant. (Si vous ne possédez pas encore de compte Gmail ou Google Workspace, vous devez en créer un.)

• Le nom du projet est le nom à afficher pour les participants au projet. Il s'agit d'une chaîne de caractères qui n'est pas utilisée par les API Google, et que vous pouvez modifier à tout moment.
• L'ID du projet doit être unique sur l'ensemble des projets Google Cloud et doit être immuable (vous ne pouvez pas le modifier une fois que vous l'avez défini). Cloud Console génère automatiquement une chaîne unique dont la composition importe peu, en général. Dans la plupart des ateliers de programmation, vous devrez référencer l'ID du projet (généralement identifié comme PROJECT_ID), donc s'il ne vous convient pas, générez-en un autre au hasard ou définissez le vôtre, puis vérifiez s'il est disponible. Il est ensuite "gelé" une fois le projet créé.
• La troisième valeur est le numéro de projet, utilisé par certaines API. Pour en savoir plus sur ces trois valeurs, consultez la documentation.

Attention : Un ID de projet doit être unique au niveau mondial. Personne d'autre ne peut l'employer une fois que vous l'avez sélectionné. Vous en êtes le seul utilisateur. Si un projet est supprimé, cet ID ne pourra plus jamais être utilisé.

Remarque : Si vous utilisez un compte Gmail, vous pouvez conserver l'emplacement par défaut défini sur Aucune organisation. Si vous utilisez un compte Google Workspace, choisissez un emplacement pertinent pour votre organisation.

2. Vous devez ensuite activer la facturation dans Cloud Console afin d'utiliser les ressources/API Cloud. L'exécution de cet atelier de programmation est très peu coûteuse, voire sans frais. Pour arrêter les ressources afin d'éviter qu'elles ne vous soient facturées après ce tutoriel, suivez les instructions de nettoyage indiquées à la fin de l'atelier. Les nouveaux utilisateurs de Google Cloud peuvent participer au programme d'essai gratuit pour bénéficier d'un crédit de 300 $.

Démarrer l'éditeur Cloudshell

Cet atelier a été conçu et testé pour être utilisé avec l'éditeur Google Cloud Shell. Pour accéder à l'éditeur,

1. Accédez à votre projet Google à l'adresse https://console.cloud.google.com.
2. En haut à droite, cliquez sur l'icône de l'éditeur Cloud Shell.

3. Un nouveau volet s'ouvre au bas de la fenêtre.
4. Cliquez sur le bouton "Ouvrir l'éditeur"

5. L'éditeur s'ouvre avec un explorateur à droite et un éditeur dans la zone centrale
6. Un volet de terminal devrait également être disponible au bas de l'écran.
7. Si le terminal n'est PAS ouvert, utilisez la combinaison de touches Ctrl+ pour ouvrir une nouvelle fenêtre de terminal.

Configuration de l'environnement

Dans Cloud Shell, définissez l'ID et le numéro de votre projet. Enregistrez-les en tant que variables PROJECT_ID et PROJECT_ID.

export PROJECT_ID=$(gcloud config get-value project)
export PROJECT_NUMBER=$(gcloud projects describe $PROJECT_ID \
    --format='value(projectNumber)')

Obtenir le code source

1. Le code source de cet atelier se trouve dans l'atelier "container-developer-workshop" de GoogleCloudPlatform sur GitHub. Clonez-le à l'aide de la commande ci-dessous, puis accédez au répertoire.

git clone https://github.com/GoogleCloudPlatform/container-developer-workshop.git &&
cd container-developer-workshop/labs/python
mkdir music-service && cd music-service 
cloudshell workspace .

Si le terminal n'est PAS ouvert, utilisez la combinaison de touches Ctrl+ pour ouvrir une nouvelle fenêtre de terminal.

Provisionner l'infrastructure utilisée dans cet atelier

Dans cet atelier, vous allez déployer du code sur GKE et accéder aux données stockées dans une base de données Spanner. Le script de configuration ci-dessous prépare cette infrastructure pour vous. Le processus de provisionnement prend plus de 10 minutes. Vous pouvez passer aux étapes suivantes pendant le traitement de la configuration.

../setup.sh

3. Créer une application de démarrage Python

1. Créez un fichier nommé requirements.txt et copiez-y le contenu suivant.

Flask
gunicorn
google-cloud-spanner
ptvsd==4.3.2

2. Créez un fichier nommé app.py et collez-y le code suivant.

import os
from flask import Flask, request, jsonify
from google.cloud import spanner

app = Flask(__name__)

@app.route("/")
def hello_world():
    message="Hello, World!"
    return message

if __name__ == '__main__':
    server_port = os.environ.get('PORT', '8080')
    app.run(debug=False, port=server_port, host='0.0.0.0')

3. Créez un fichier nommé Dockerfile et collez-y le code suivant.

FROM python:3.8
ARG FLASK_DEBUG=0
ENV FLASK_DEBUG=$FLASK_DEBUG
ENV FLASK_APP=app.py
WORKDIR /app
COPY requirements.txt .
RUN pip install --trusted-host pypi.python.org -r requirements.txt
COPY . .
ENTRYPOINT ["python3", "-m", "flask", "run", "--port=8080", "--host=0.0.0.0"]

Remarque: FLASK_DEBUG=1 vous permet d'actualiser automatiquement les modifications de code dans une application de flask Python. Ce Dockerfile vous permet de transmettre cette valeur en tant qu'argument de compilation.

Générer des fichiers manifestes

Dans votre terminal, exécutez la commande suivante pour générer les fichiers skaffold.yaml et deployment.yaml par défaut.

1. Initialisez Skaffold à l'aide de la commande suivante :

skaffold init --generate-manifests

Lorsque vous y êtes invité, utilisez les flèches pour déplacer votre curseur et la barre d'espace pour sélectionner les options.

Choisissez :

• 8080 pour le port
• y pour enregistrer la configuration

Mettre à jour les configurations Skaffold

• Modifier le nom d'application par défaut
• Ouvrir skaffold.yaml
• Sélectionnez le nom de l'image actuellement défini sur dockerfile-image
• Effectuez un clic droit et sélectionnez "Modifier toutes les occurrences"
• Saisissez le nouveau nom python-app.
• Modifiez ensuite la section de compilation pour
• ajoutez docker.buildArgs pour transmettre FLASK_DEBUG=1
• Synchronisez les paramètres pour charger les modifications apportées aux fichiers *.py depuis l'IDE vers le conteneur en cours d'exécution

Une fois les modifications effectuées, la section de compilation du fichier skaffold.yaml se présente comme suit:

build:
 artifacts:
 - image: python-app
   docker:
     buildArgs:
       FLASK_DEBUG: 1
     dockerfile: Dockerfile
   sync:
     infer:
     - '**/*.py'

Modifier le fichier de configuration Kubernetes

1. Modifier le nom par défaut

• Ouvrir le fichier deployment.yaml
• Sélectionnez le nom de l'image actuellement défini sur dockerfile-image
• Effectuez un clic droit et sélectionnez "Modifier toutes les occurrences"
• Saisissez le nouveau nom python-app.

4. Parcourir le processus de développement

Une fois la logique métier ajoutée, vous pouvez déployer et tester votre application. La section suivante présente l'utilisation du plug-in Cloud Code. Entre autres, ce plug-in s'intègre à Skaffold pour simplifier votre processus de développement. Lors des étapes suivantes, Cloud Code et Skaffold créent automatiquement votre image de conteneur, la transfèrent vers Container Registry, puis déploient votre application sur GKE. Cela se produit en arrière-plan afin d'éliminer les détails du flux de développement.

Déployer sur Kubernetes

1. Dans le volet situé en bas de l'éditeur Cloud Shell, sélectionnez Cloud Code .

2. Dans le panneau qui s'affiche en haut, sélectionnez Run on Kubernetes (Exécuter sur Kubernetes). Si vous y êtes invité, sélectionnez "Oui" pour utiliser le contexte Kubernetes actuel.

Cette commande lance une compilation du code source, puis exécute les tests. L'exécution de la compilation et des tests prend quelques minutes. Ces tests incluent des tests unitaires et une étape de validation qui vérifie les règles définies pour l'environnement de déploiement. Cette étape de validation est déjà configurée. Elle vous permet de recevoir des avertissements en cas de problèmes de déploiement, même lorsque vous travaillez encore dans votre environnement de développement.

3. Lorsque vous exécutez la commande pour la première fois, une invite s'affiche en haut de l'écran pour vous demander si vous voulez le contexte Kubernetes actuel. Sélectionnez "Oui" accepter et utiliser le contexte actuel.
4. Une invite s'affiche ensuite pour vous demander quel registre de conteneurs utiliser. Appuyez sur Entrée pour accepter la valeur par défaut fournie
5. Sélectionnez l'onglet "Output" (Sortie) dans le volet inférieur pour afficher la progression et les notifications.

6. Sélectionnez "Kubernetes: Run/Debug - Détaillé". dans le menu déroulant du canal à droite pour afficher des informations supplémentaires et les journaux diffusés en direct depuis les conteneurs.

Une fois la compilation et les tests terminés, l'onglet "Output" (Sortie) indique Attached debugger to container "python-app-8476f4bbc-h6dsl" successfully., et l'URL http://localhost:8080 s'affiche.

7. Dans le terminal Cloud Code, pointez sur la première URL du résultat (http://localhost:8080), puis sélectionnez "Ouvrir l'aperçu sur le Web" dans l'info-bulle qui s'affiche.
8. Un nouvel onglet de navigateur s'ouvre et affiche le message Hello, World!.

Actualisation à chaud

1. Ouvrez le fichier app.py.
2. Remplacez le message d'accueil par Hello from Python

Notez immédiatement que dans la fenêtre Output (vue Kubernetes: Run/Debug), l'observateur synchronise les fichiers mis à jour avec le conteneur dans Kubernetes.

Update initiated
Build started for artifact python-app
Build completed for artifact python-app

Deploy started
Deploy completed

Status check started
Resource pod/python-app-6f646ffcbb-tn7qd status updated to In Progress
Resource deployment/python-app status updated to In Progress
Resource deployment/python-app status completed successfully
Status check succeeded
...

3. Si vous passez à la vue Kubernetes: Run/Debug - Detailed, vous remarquerez qu'elle reconnaît les modifications apportées aux fichiers, puis qu'elle crée et redéploie l'application.

files modified: [app.py]
Syncing 1 files for gcr.io/veer-pylab-01/python-app:3c04f58-dirty@sha256:a42ca7250851c2f2570ff05209f108c5491d13d2b453bb9608c7b4af511109bd
Copying files:map[app.py:[/app/app.py]]togcr.io/veer-pylab-01/python-app:3c04f58-dirty@sha256:a42ca7250851c2f2570ff05209f108c5491d13d2b453bb9608c7b4af511109bd
Watching for changes...
[python-app] * Detected change in '/app/app.py', reloading
[python-app] * Restarting with stat
[python-app] * Debugger is active!
[python-app] * Debugger PIN: 744-729-662

4. Actualisez votre navigateur pour voir les résultats mis à jour.

Débogage

1. Accédez à la vue de débogage et arrêtez le thread actuel .
2. Cliquez sur Cloud Code dans le menu du bas et sélectionnez Debug on Kubernetes pour exécuter l'application en mode debug.

• Dans la vue Kubernetes Run/Debug - Detailed de la fenêtre Output, notez que Skaffold va déployer cette application en mode débogage.

3. Lors de la première exécution, une invite vous demande où se trouve la source dans le conteneur. Cette valeur est liée aux répertoires du Dockerfile.

Appuyez sur Entrée pour accepter les valeurs par défaut

La création et le déploiement de l'application prennent quelques minutes.

4. Une fois le processus terminé. Vous remarquerez qu'un débogueur est joint à ce message.

Port forwarding pod/python-app-8bd64cf8b-cskfl in namespace default, remote port 5678 -> http://127.0.0.1:5678

5. La barre d'état inférieure passe du bleu à l'orange pour indiquer qu'elle est en mode débogage.
6. Dans la vue Kubernetes Run/Debug, vous remarquerez qu'un conteneur débogable a démarré.

**************URLs*****************
Forwarded URL from service python-app: http://localhost:8080
Debuggable container started pod/python-app-8bd64cf8b-cskfl:python-app (default)
Update succeeded
***********************************

Utiliser des points d'arrêt

1. Ouvrez le fichier app.py.
2. Recherchez l'instruction return message
3. Ajoutez un point d'arrêt à cette ligne en cliquant sur l'espace vide à gauche du numéro de ligne. Un indicateur rouge s'affiche pour indiquer que le point d'arrêt est défini.
4. Actualisez votre navigateur et notez que le débogueur arrête le processus au point d'arrêt et vous permet d'examiner les variables et l'état de l'application qui s'exécute à distance dans GKE.
5. Cliquez sur la section "VARIABLES" vers le bas.
6. Cliquez sur "Locals", vous trouverez la variable "message".
7. Double-cliquez sur le nom de variable "message". Dans la fenêtre pop-up, remplacez la valeur par un autre élément, comme "Greetings from Python".
8. Cliquez sur le bouton "Continuer" dans le panneau de configuration du débogage .
9. Examinez la réponse dans votre navigateur qui affiche à présent la nouvelle valeur que vous venez de saisir.
10. Arrêter le processus de débogage en appuyant sur le bouton d'arrêt . Pour supprimer le point d'arrêt, cliquez à nouveau dessus.

5. Développer un service REST simple CRUD

À ce stade, votre application est entièrement configurée pour le développement conteneurisé, et vous avez suivi le workflow de développement de base avec Cloud Code. Dans les sections suivantes, vous allez mettre en pratique ce que vous avez appris en ajoutant des points de terminaison du service REST se connectant à une base de données gérée dans Google Cloud.

Coder le service REST

Le code ci-dessous crée un service REST simple qui utilise Spanner comme base de données sur laquelle repose l'application. Créez l'application en y copiant le code suivant.

1. Créez l'application principale en remplaçant app.py par le contenu suivant

import os
from flask import Flask, request, jsonify
from google.cloud import spanner


app = Flask(__name__)


instance_id = "music-catalog"

database_id = "musicians"

spanner_client = spanner.Client()
instance = spanner_client.instance(instance_id)
database = instance.database(database_id)


@app.route("/")
def hello_world():
    return "<p>Hello, World!</p>"

@app.route('/singer', methods=['POST'])
def create():
    try:
        request_json = request.get_json()
        singer_id = request_json['singer_id']
        first_name = request_json['first_name']
        last_name = request_json['last_name']
        def insert_singers(transaction):
            row_ct = transaction.execute_update(
                f"INSERT Singers (SingerId, FirstName, LastName) VALUES" \
                f"({singer_id}, '{first_name}', '{last_name}')"
            )
            print("{} record(s) inserted.".format(row_ct))

        database.run_in_transaction(insert_singers)

        return {"Success": True}, 200
    except Exception as e:
        return e



@app.route('/singer', methods=['GET'])
def get_singer():

    try:
        singer_id = request.args.get('singer_id')
        def get_singer():
            first_name = ''
            last_name = ''
            with database.snapshot() as snapshot:
                results = snapshot.execute_sql(
                    f"SELECT SingerId, FirstName, LastName FROM Singers " \
                    f"where SingerId = {singer_id}",
                    )
                for row in results:
                    first_name = row[1]
                    last_name = row[2]
                return (first_name,last_name )
        first_name, last_name = get_singer()  
        return {"first_name": first_name, "last_name": last_name }, 200
    except Exception as e:
        return e


@app.route('/singer', methods=['PUT'])
def update_singer_first_name():
    try:
        singer_id = request.args.get('singer_id')
        request_json = request.get_json()
        first_name = request_json['first_name']
        
        def update_singer(transaction):
            row_ct = transaction.execute_update(
                f"UPDATE Singers SET FirstName = '{first_name}' WHERE SingerId = {singer_id}"
            )

            print("{} record(s) updated.".format(row_ct))

        database.run_in_transaction(update_singer)
        return {"Success": True}, 200
    except Exception as e:
        return e


@app.route('/singer', methods=['DELETE'])
def delete_singer():
    try:
        singer_id = request.args.get('singer')
    
        def delete_singer(transaction):
            row_ct = transaction.execute_update(
                f"DELETE FROM Singers WHERE SingerId = {singer_id}"
            )
            print("{} record(s) deleted.".format(row_ct))

        database.run_in_transaction(delete_singer)
        return {"Success": True}, 200
    except Exception as e:
        return e

port = int(os.environ.get('PORT', 8080))
if __name__ == '__main__':
    app.run(threaded=True, host='0.0.0.0', port=port)

Ajouter des configurations de base de données

Pour vous connecter à Spanner de manière sécurisée, configurez l'application de sorte qu'elle utilise Workload Identities. Cela permet à votre application d'agir en tant que compte de service propre et de disposer d'autorisations individuelles pour accéder à la base de données.

1. Mettez à jour deployment.yaml. Ajoutez le code suivant à la fin du fichier (veillez à conserver les retraits de tabulation dans l'exemple ci-dessous).

      serviceAccountName: python-ksa
      nodeSelector:
        iam.gke.io/gke-metadata-server-enabled: "true" 

Déployer et valider l'application

1. Dans le volet situé en bas de l'éditeur Cloud Shell, sélectionnez Cloud Code, puis Debug on Kubernetes en haut de l'écran.
2. Une fois la compilation et les tests terminés, l'onglet "Output" (Sortie) indique Resource deployment/python-app status completed successfully, et une URL s'affiche : "Forwarded URL from service python-app: http://localhost:8080"
3. Ajoutez quelques entrées.

Depuis le terminal cloudshell, exécutez la commande ci-dessous.

curl -X POST http://localhost:8080/singer -H 'Content-Type: application/json' -d '{"first_name":"Cat","last_name":"Meow", "singer_id": 6}'

4. Testez GET en exécutant la commande ci-dessous dans le terminal.

curl -X GET http://localhost:8080/singer?singer_id=6

5. Test de suppression: essayez à présent de supprimer une entrée en exécutant la commande suivante. Si nécessaire, modifiez la valeur de l'attribut item-id.

curl -X DELETE http://localhost:8080/singer?singer_id=6

    This throws an error message

500 Internal Server Error

Identifier et corriger le problème

1. mode débogage et identifiez le problème. Voici quelques conseils :

• Nous savons qu'il y a un problème avec DELETE, car il ne renvoie pas le résultat souhaité. Vous devez donc définir le point d'arrêt dans app.py dans la méthode delete_singer.
• Exécutez une exécution étape par étape et observez les variables à chaque étape pour observer les valeurs des variables locales dans la fenêtre de gauche.
• Pour observer des valeurs spécifiques telles que singer_id et request.args dans le flux, ajoutez ces variables à la fenêtre de surveillance.

2. Notez que la valeur attribuée à singer_id est None. Modifiez le code pour résoudre le problème.

L'extrait de code corrigé se présente comme suit :

@app.route('/delete-singer', methods=['DELETE', 'GET'])
def delete_singer():
    try:
        singer_id = request.args.get('singer_id')

3. Une fois l'application redémarrée, réessayez en essayant de la supprimer.
4. Arrêtez la session de débogage en cliquant sur le carré rouge dans la barre d'outils de débogage .

6. Nettoyage

Félicitations ! Dans cet atelier, vous avez entièrement créé une application Python et l'avez configurée pour fonctionner efficacement avec des conteneurs. Vous avez ensuite déployé et débogué votre application sur un cluster GKE distant en suivant le même parcours de développement que dans les piles d'applications traditionnelles.

Pour effectuer un nettoyage une fois l'atelier terminé:

1. Supprimer les fichiers utilisés dans l'atelier

cd ~ && rm -rf container-developer-workshop

2. Supprimer le projet pour retirer toute l'infrastructure et toutes les ressources associées