BERT（Bidirectional Encoder Representations from Transformers）は、主に自己教師あり学習を用いて学習されています。自己教師あり学習とは、ラベルのないデータを使ってラベルを生成し、そのラベルを用いてモデルを訓練する手法です。BERTでは、以下のような方法で自己教師あり学習を行います。

1. マスク付き言語モデル（Masked Language Model, MLM）
- テキストの一部をマスク（隠す）し、そのマスクされた部分を予測するというタスクです。これにより、文脈を理解しながら、単語間の関係を学習します。

2. 次文予測（Next Sentence Prediction, NSP）
- 2つの文が連続するものかどうかを予測するタスクです。これにより、文間の関係を理解する能力を強化します。

BERTはこれらのタスクを通じて、広範な言語知識を獲得します。また、BERTは教師なし学習の一形態である自己教師あり学習を活用していますが、具体的なタスクに適用する際には、事前に学習したモデルを微調整（ファインチューニング）するために、教師あり学習も用いられます。この段階では、具体的なラベル付きデータを使ってモデルをさらに訓練し、特定のタスクに適応させます。例えば、テキスト分類や質問応答などのタスクです。

要約すると、BERTは自己教師あり学習を用いて事前学習され、特定のタスクには教師あり学習で微調整されるという2段階のプロセスを経ています。