Exécutez un modèle Vertex AI à deux tours localement

J'ai formé avec succès un modèle à deux tours sur Google Vertex AI selon le guide ici.

Je voudrais maintenant télécharger le modèle et essayer des inférences localement sur ma propre machine, je me bats avec diverses erreurs depuis un certain temps et je suis maintenant bloqué sur ce qui suit :

Code:

import tensorflow as tf
import tensorflow_text
load_options = tf.saved_model.LoadOptions(experimental_io_device='/job:localhost')
tf.saved_model.load('model_path', options=load_options)

Erreur:

---------------------------------------------------------------------------
KeyError   Traceback (most recent call last)
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/framework/ops.py in _get_op_def(self, type)
 3957 try:
-> 3958 return self._op_def_cache[type]
 3959 except KeyError:
KeyError: 'IO>DecodeJSON'
During handling of the above exception, another exception occurred:
NotFoundError  Traceback (most recent call last)
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/saved_model/load.py in load_internal(export_dir, tags, options, loader_cls, filters)
 905 loader = loader_cls(object_graph_proto, saved_model_proto, export_dir,
--> 906  ckpt_options, filters)
 907 except errors.NotFoundError as err:
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/saved_model/load.py in __init__(self, object_graph_proto, saved_model_proto, export_dir, ckpt_options, filters)
 133 function_deserialization.load_function_def_library(
--> 134 meta_graph.graph_def.library))
 135 self._checkpoint_options = ckpt_options
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/saved_model/function_deserialization.py in load_function_def_library(library, load_shared_name_suffix)
 357 with graph.as_default():
--> 358 func_graph = function_def_lib.function_def_to_graph(copy)
 359 _restore_gradient_functions(func_graph, renamed_functions)
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/framework/function_def_to_graph.py in function_def_to_graph(fdef, input_shapes)
 63 graph_def, nested_to_flat_tensor_name = function_def_to_graph_def(
---> 64 fdef, input_shapes)
 65 
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/framework/function_def_to_graph.py in function_def_to_graph_def(fdef, input_shapes)
 227 else:
--> 228 op_def = default_graph._get_op_def(node_def.op) # pylint: disable=protected-access
 229 
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/framework/ops.py in _get_op_def(self, type)
 3962 pywrap_tf_session.TF_GraphGetOpDef(self._c_graph, compat.as_bytes(type),
-> 3963   buf)
 3964 # pylint: enable=protected-access
NotFoundError: Op type not registered 'IO>DecodeJSON' in binary running on 192.168.1.105. Make sure the Op and Kernel are registered in the binary running in this process. Note that if you are loading a saved graph which used ops from tf.contrib, accessing (e.g.) `tf.contrib.resampler` should be done before importing the graph, as contrib ops are lazily registered when the module is first accessed.
During handling of the above exception, another exception occurred:
FileNotFoundError  Traceback (most recent call last)
<ipython-input-2-39fe5910a28b> in <module>
 5 
 6 load_options = tf.saved_model.LoadOptions(experimental_io_device='/job:localhost')
----> 7 tf.saved_model.load('query_model/20220219125209', options=load_options)
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/saved_model/load.py in load(export_dir, tags, options)
 867 ValueError: If `tags` don't match a MetaGraph in the SavedModel.
 868 """
--> 869 return load_internal(export_dir, tags, options)["root"]
 870 
 871 
~/.pyenv/versions/3.7.8/lib/python3.7/site-packages/tensorflow/python/saved_model/load.py in load_internal(export_dir, tags, options, loader_cls, filters)
 907 except errors.NotFoundError as err:
 908 raise FileNotFoundError(
--> 909 str(err) + "\n If trying to load on a different device from the "
 910 "computational device, consider using setting the "
 911 "`experimental_io_device` option on tf.saved_model.LoadOptions "
FileNotFoundError: Op type not registered 'IO>DecodeJSON' in binary running on 192.168.1.105. Make sure the Op and Kernel are registered in the binary running in this process. Note that if you are loading a saved graph which used ops from tf.contrib, accessing (e.g.) `tf.contrib.resampler` should be done before importing the graph, as contrib ops are lazily registered when the module is first accessed.
 If trying to load on a different device from the computational device, consider using setting the `experimental_io_device` option on tf.saved_model.LoadOptions to the io_device such as '/job:localhost'.

Le problème semble être le fait que le modèle était un utilisateur formé albert-baseet qu'il y a des opérations et des packages supplémentaires nécessaires pour qu'il s'exécute, c'est pourquoi j'ai import tensorflow_textégalement essayé import tensorflow_io, mais je reçois une erreur en essayant simplement de charger le package, indiquant un Le système de fichiers S3 a déjà été enregistré.

Toute aide serait grandement appréciée!


Solution du problème

Le modèle à deux tours est formé avec tensorflow 2.3 et tensorflow io 0.15.0 Vous devez utiliser la bonne version sinon il ne peut pas être chargé. Importez également tensorflow_io avant de charger réellement le modèle

Commentaires

Enregistrer un commentaire

Posts les plus consultés de ce blog

Erreur Symfony : "Une exception a été levée lors du rendu d'un modèle"

j'essaie d'inclure <link href="{{ asset('css/mystyle.css') }}" rel="stylesheet"/> dans mon fichier twig et le rendre. Mais cela me donne une exception PHP non interceptée Twig_Error_Runtime : "Une exception a été levée lors du rendu d'un modèle ("Le fichier manifeste de l'actif "/../public/build/manifest.json" n'existe pas.") ça marche quand j'utilise link href="css/mystyle.css" rel="stylesheet"/> . Voici mon contrôleur: <?php namespace App\Controller; use Symfony\Component\Routing\Annotation\Route; use Symfony\Bundle\FrameworkBundle\Controller\AbstractController; use Symfony\Component\HttpFoundation\Response; class WelcomeController extends AbstractController { /** * @Route("/", name="welcome") */ public function index() { return $this->render('welcome/index.html.twig'); } } Voici mon modèle de brindille : <!doctype html> ...
Lire la suite

Détecter les appuis sur les touches fléchées en JavaScript

Comment détecter l'appui sur l'une des touches fléchées ? J'en ai profité pour savoir: function checkKey(e) { var event = window.event? window.event: e; console.log(event.keyCode) } Bien que cela fonctionnait pour toutes les autres touches, ce n'était pas le cas pour les touches fléchées (peut-être parce que le navigateur est censé faire défiler ces touches par défaut). Solution du problème event.key === "Flèche droite"... Plus récent et beaucoup plus propre: utilisez event.key . Plus de codes numériques arbitraires ! Si vous transpilez ou savez que vos utilisateurs utilisent tous des navigateurs modernes, utilisez ceci ! node.addEventListener('keydown', function(event) { const key = event.key; // "ArrowRight", "ArrowLeft", "ArrowUp", or "ArrowDown" }); Gestion détaillée : switch (event.key) { case "ArrowLeft": // Left pressed break; case "ArrowRight": // Right pressed break; c...
Lire la suite

Une chaîne vide donne "Des erreurs ont été détectées dans les arguments de la ligne de commande, veuillez vous assurer que tous les arguments sont correctement définis"

Image
Sur un serveur SQL 2016, j'ai un travail qui appelle un package SSIS. Ce package se trouve dans un projet dans la SSISDB et a des paramètres. L'un de ces paramètres est un type de chaîne vide par défaut. J'ai exécuté le travail avec la valeur vide pour ce paramètre, et il s'est exécuté avec succès. J'ai ensuite ouvert les propriétés du travail, je suis allé à l'étape qui appelle ce package et je suis entré dans la configuration et j'ai donné une valeur à ce paramètre. J'ai exécuté à nouveau le travail et il s'est exécuté avec succès, et la valeur du paramètre a eu l'effet attendu sur les résultats. Maintenant, je veux modifier le travail et redéfinir le paramètre sur une chaîne vide. En répétant ce que j'ai fait ci-dessus, j'ouvre la configuration et supprime complètement la valeur du paramètre. Lorsque j'essaie ensuite d'enregistrer les propriétés de l'étape du travail, j'obtiens une boîte de dialogue d'erreur a...
Lire la suite