TF2.0でカスタムグラデーションを使用してkerasレイヤーを作成するにはどうすればよいですか？

ILM91 2019-06-19 12:48.

TensorFlow 2.0では、すべての高レベルAPIをkeras（私はあまりよく知らない）の下で統合し、Sessionsを完全に削除することを計画しているので、私は疑問に思っていました。

カスタムグラデーションを持つカスタムケラスレイヤーを作成するにはどうすればよいですか？

私は（かなり限られた）を見てきました https://keras.io/layers/writing-your-own-keras-layers/ kerasでカスタムレイヤーを作成する方法については説明していませんが、操作にカスタムグラデーションを設定する場合の対処方法については説明していません。

python tensorflow machine-learning keras

1 answers

Djib2011 2019-06-19 13:08.

まず第一に、kerasの下でのAPIの「統合」（あなたがそれを呼ぶとき）は、TensorFlow1.xで行ったようなことをすることを妨げません。セッションが終了する可能性がありますが、Python関数のようにモデルを定義し、kerasなしで熱心にトレーニングすることができます（つまり、https://www.tensorflow.org/tutorials/eager/custom_training_walkthrough）

ここで、カスタム操作を実行し、カスタムグラデーションを持つカスタムレイヤーを使用してkerasモデルを構築する場合は、次の手順を実行する必要があります。

a）カスタム操作を実行し、カスタムグラデーションを定義する関数を記述します。これを行う方法の詳細https://www.tensorflow.org/api_docs/python/tf/custom_gradient。

@tf.custom_gradient
def custom_op(x):
    result = ... # do forward computation
    def custom_grad(dy):
        grad = ... # compute gradient
        return grad
    return result, custom_grad

関数の中で、あなたが扱う必要があることを注意xしてdyテンソルとなどないnumpyのアレイ（すなわちテンソル演算を実行）

b）を実行するカスタムkerasレイヤーを作成しますcustom_op。この例では、レイヤーにトレーニング可能なパラメーターがないか、入力の形状が変更されていると想定しますが、ある場合でも大きな違いはありません。そのためにあなたがチェックを投稿したガイドを参照することができますhttps://www.tensorflow.org/beta/tutorials/eager/custom_layers。

class CustomLayer(tf.keras.layers.Layer):
    def __init__(self):
        super(CustomLayer, self).__init__()

    def call(self, x):
        return custom_op(x)  # you don't need to explicitly define the custom gradient
                             # as long as you registered it with the previous method

これで、このレイヤーをkerasモデルで使用でき、機能します。例えば：

inp = tf.keras.layers.Input(input_shape)
conv = tf.keras.layers.Conv2D(...)(inp)  # add params like the number of filters
cust = CustomLayer()(conv)  # no parameters in custom layer
flat = tf.keras.layers.Flatten()(cust)
fc = tf.keras.layers.Dense(num_classes)(flat)

model = tf.keras.models.Model(inputs=[inp], outputs=[fc])
model.compile(loss=..., optimizer=...)  # add loss function and optimizer
model.fit(...)  # fit the model

Japanese Spanish German French Thai Russian Vietnamese Italian Turkish Indonesian Polish Hindi

MORE COOL STUFF

メーガン・マークルは、自然な髪のスタイリングをめぐってマライア・キャリーと結ばれました

メーガン・マークルとマライア・キャリーが自然な髪の上でどのように結合したかについて、メーガンの「アーキタイプ」ポッドキャストのエピソードで学びましょう.

2022-12-23.

ハリー王子は家族との関係を修復できるという「希望を持っている」：「彼は父親と兄弟を愛している」

ハリー王子が家族、特にチャールズ王とウィリアム王子との関係について望んでいると主張したある情報源を発見してください。

2022-12-17.

ワイノナ・ジャッドは、パニックに陥った休暇の瞬間に、彼女がジャッド家の家長であることを認識しました

ワイノナ・ジャッドが、母親のナオミ・ジャッドが亡くなってから初めての感謝祭のお祝いを主催しているときに、彼女が今では家長であることをどのように認識したかを学びましょう.

2022-12-09.

セントヘレナのジェイコブのはしごを登るのは、気弱な人向けではありません

セントヘレナ島のジェイコブズラダーは 699 段の真っ直ぐ上る階段で、頂上に到達すると証明書が発行されるほどの難易度です。

2022-09-08.

世界最小のマルチツールを15ドルでキーチェーンに追加

爪| $ 15 | マルボロ＆ケインザクロー| $ 15 | Malboro＆Kane世界最小のマルチツールであるTheClawをたった15ドルで手に入れましょう。男の子と一緒に冷たいものを割って開けたり、ネジを締めたり、Amazonパッケージを細断したりする場合でも、この悪い男の子はこれまでで最も便利な製品の1つです。

2023-03-20 14:32.

42,000試合で作られた球がスローモーションで燃えるのを見るのは魅力的な光景です

人が2つのマッチを接着するように導くものは何ですか？何があなたをマッチに打ち続け、構造が湾曲していることを発見するのですか？42,000のボールを作るまで、試合を続けなければならない理由は何ですか？しかし、何よりも、これほど魅力的なショーである可能性はどのようにありますか？私はあなたをだますつもりはありません、次に私たちがあなたに残すのは、あなたや私のような人が自由な時間を過ごすことを決定するビデオですボールを作るために必要な試合数を確認します（答えは42です。

2023-03-20 14:30.