# Hiera

## Ikhtisar

Hiera diusulkan dalam [Hiera: A Hierarchical Vision Transformer without the Bells-and-Whistles](https://huggingface.co/papers/2306.00989) oleh Chaitanya Ryali, Yuan-Ting Hu, Daniel Bolya, Chen Wei, Haoqi Fan, Po-Yao Huang, Vaibhav Aggarwal, Arkabandhu Chowdhury, Omid Poursaeed, Judy Hoffman, Jitendra Malik, Yanghao Li, Christoph Feichtenhofer

Paper ini memperkenalkan "Hiera," sebuah Vision Transformer hierarkis yang menyederhanakan arsitektur vision transformer hierarkis modern dengan menghapus komponen yang tidak diperlukan tanpa mengorbankan akurasi atau efisiensi. Berbeda dengan transformer tradisional yang menambahkan komponen spesifik visi yang kompleks untuk meningkatkan kinerja klasifikasi terawasi, Hiera menunjukkan bahwa penambahan semacam itu, yang sering disebut "bells-and-whistles," tidak esensial untuk akurasi tinggi. Dengan memanfaatkan tugas prateks visual yang kuat (MAE) untuk prapelatihan, Hiera mempertahankan kesederhanaan dan mencapai akurasi serta kecepatan yang unggul baik dalam inferensi maupun pelatihan di berbagai tugas pengenalan gambar dan video. Pendekatan ini menunjukkan bahwa bias spasial yang diperlukan untuk tugas visi dapat dipelajari secara efektif melalui prapelatihan yang tepat, sehingga menghilangkan kebutuhan akan kompleksitas arsitektur tambahan.

Abstrak dari makalah tersebut adalah sebagai berikut:

*Transformers hierarkis modern untuk visi telah menambahkan beberapa komponen khusus visi dalam upaya meningkatkan kinerja klasifikasi berlabel. Meskipun komponen-komponen ini menghasilkan akurasi yang efektif dan jumlah FLOP yang menarik, kompleksitas tambahan yang ditambahkan justru membuat transformer ini lebih lambat dibandingkan dengan varian ViT polosnya. Dalam makalah ini, kami berargumen bahwa tambahan tersebut tidak diperlukan. Dengan melakukan pra-pelatihan menggunakan tugas prateks visual yang kuat (MAE), kami dapat menghilangkan semua fitur tambahan dari transformer visi multi-tahap state-of-the-art tanpa kehilangan akurasi. Dalam prosesnya, kami menciptakan Hiera, sebuah transformer visi hierarkis yang sangat sederhana yang lebih akurat daripada model-model sebelumnya sekaligus jauh lebih cepat baik saat inferensi maupun selama pelatihan. Kami mengevaluasi Hiera pada berbagai tugas untuk pengenalan gambar dan video. Kode dan model kami tersedia di https://github.com/facebookresearch/hiera.*

<img src="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/transformers/model_doc/hiera_overview.png"
alt="drawing" width="600"/>

 Arsitektur Hiera. Diambil dari paper aslinya.

Model ini merupakan kontribusi bersama dari [EduardoPacheco](https://huggingface.co/EduardoPacheco) dan [namangarg110](https://huggingface.co/namangarg110). Kode aslinya dapat ditemukan [di sini] (https://github.com/facebookresearch/hiera).

## Sumber daya

Daftar sumber resmi Hugging Face dan komunitas (ditandai dengan 🌎) untuk membantu Anda memulai dengan Hiera. Jika Anda tertarik untuk mengirimkan sumber agar disertakan di sini, silakan buka Pull Request dan kami akan meninjaunya! Sumber tersebut sebaiknya mendemonstrasikan sesuatu yang baru, bukan menduplikasi sumber yang sudah ada.

- [HieraForImageClassification](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraForImageClassification) didukung oleh [notebook](https://colab.research.google.com/github/huggingface/notebooks/blob/main/examples/image_classification.ipynb) ini.
- Lihat juga: [Panduan tugas klasifikasi gambar](../tasks/image_classification)

## HieraConfig[[transformers.HieraConfig]]

#### transformers.HieraConfig[[transformers.HieraConfig]]

```python
transformers.HieraConfig(transformers_version: str | None = None, architectures: list[str] | None = None, output_hidden_states: bool | None = False, return_dict: bool | None = True, dtype: str | torch.dtype | None = None, chunk_size_feed_forward: int = 0, is_encoder_decoder: bool = False, id2label: dict[int, str] | dict[str, str] | None = None, label2id: dict[str, int] | dict[str, str] | None = None, problem_type: Literal['regression', 'single_label_classification', 'multi_label_classification'] | None = None, embed_dim: int = 96, image_size: list[int] | tuple[int, ...] = (224, 224), patch_size: list[int] | tuple[int, ...] = (7, 7), patch_stride: list[int] | tuple[int, ...] = (4, 4), patch_padding: list[int] | tuple[int, ...] = (3, 3), mlp_ratio: float = 4.0, depths: list[int] | tuple[int, ...] = (2, 3, 16, 3), num_heads: list[int] | tuple[int, ...] = (1, 2, 4, 8), embed_dim_multiplier: float | int = 2.0, num_query_pool: int = 3, query_stride: list[int] | tuple[int, ...] = (2, 2), masked_unit_size: list[int] | tuple[int, ...] = (8, 8), masked_unit_attention: list[bool] | tuple[bool, ...] = (True, True, False, False), drop_path_rate: float | int = 0.0, num_channels: int = 3, hidden_act: str = 'gelu', initializer_range: float = 0.02, layer_norm_init: float = 1.0, layer_norm_eps: float = 1e-06, decoder_hidden_size: int | None = None, decoder_depth: int | None = None, decoder_num_heads: int | None = None, normalize_pixel_loss: bool | None = True, mask_ratio: float = 0.6, _out_features: list[str] | None = None, _out_indices: list[int] | None = None)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/configuration_hiera.py#L25)

**Parameter:**

embed_dim (`int`, *opsional*, defaultnya `96`) : Dimensi dari embeddings dan hidden states.

image_size (`Union[list[int], tuple[int, ...]]`, *opsional*, defaultnya `(224, 224)`) : Ukuran (resolusi) dari setiap gambar.

patch_size (`Union[list[int], tuple[int, ...]]`, *opsional*, defaultnya `(7, 7)`) : Ukuran (resolusi) dari setiap patch.

patch_stride (`list(int)`, *opsional*, defaultnya `[4, 4]`) : Stride dari patch.

patch_padding (`list(int)`, *opsional*, defaultnya `[3, 3]`) : Padding dari patch.

mlp_ratio (`float`, *opsional*, defaultnya `4.0`) : Rasio dimensi tersembunyi MLP terhadap dimensi embedding.

depths (`Union[list[int], tuple[int, ...]]`, *opsional*, defaultnya `(2, 3, 16, 3)`) : Kedalaman setiap lapisan dalam Transformer.

num_heads (`list(int)`, *opsional*, defaultnya `[1, 2, 4, 8]`) : Jumlah kepala perhatian di setiap lapisan encoder Transformer.

embed_dim_multiplier (`float`, *opsional*, default 2.0) : Pengali untuk dimensi patch embedding di setiap lapisan encoder Transformer.

num_query_pool (`int`, *opsional*, defaultnya 3) : Jumlah tahap pool query.

query_stride (`list(int)`, *opsional*, defaultnya `[2, 2]`) : Stride dari query pool.

masked_unit_size (`list(int)`, *opsional*, defaultnya `[8, 8]`) : Ukuran unit yang dimasker.

masked_unit_attention (`list(bool)`, *opsional*, defaultnya `[True, True, False, False]`) : Apakah akan menggunakan masked unit attention di setiap lapisan dari encoder Transformer.

drop_path_rate (`Union[float, int]`, *opsional*, defaultnya `0.0`) : Tingkat drop path untuk fusi patch.

num_channels (`int`, *opsional*, default `3`) : Jumlah saluran input.

hidden_act (`str`, *opsional*, defaultnya `gelu`) : Fungsi aktivasi non-linear (fungsi atau string) di decoder. Misalnya, `"gelu"`, `"relu"`, `"silu"`, dan sebagainya.

initializer_range (`float`, *opsional*, defaultnya `0.02`) : Deviasi standar dari truncated_normal_initializer untuk menginisialisasi semua matriks bobot.

layer_norm_init (`float`, *opsional*, default 1.0) : Nilai bobot awal untuk lapisan normalisasi lapisan.

layer_norm_eps (`float`, *opsional*, defaultnya `1e-06`) : Epsilon yang digunakan oleh lapisan normalisasi lapisan.

decoder_hidden_size (`int`, *opsional*) : Dimensi dari representasi tersembunyi.

decoder_depth (`int`, *opsional*) : Kedalaman decoder untuk pra-pelatihan MAE.

decoder_num_heads (`int`, *opsional*) : Jumlah kepala perhatian untuk setiap lapisan perhatian dalam decoder Transformer.

normalize_pixel_loss (`bool`, *opsional*, defaultnya `True`) : Apakah akan menormalisasi loss piksel berdasarkan jumlah piksel.

mask_ratio (`float`, *opsional*, default 0.6) : Rasio token yang di-mask pada input.

Ini adalah kelas konfigurasi untuk menyimpan konfigurasi dari HieraModel. Kelas ini digunakan untuk membuat instans model Hiera sesuai dengan argumen yang ditentukan, sehingga mendefinisikan arsitektur model. Membuat instans konfigurasi dengan nilai bawaan akan menghasilkan konfigurasi yang serupa dengan konfigurasi dari [facebook/hiera-base-224](https://huggingface.co/facebook/hiera-base-224)

Objek konfigurasi mewarisi dari [PreTrainedConfig](/docs/transformers/v5.23.0/id/main_classes/configuration#transformers.PreTrainedConfig) dan dapat digunakan untuk mengontrol keluaran model. Baca dokumentasi dari [PreTrainedConfig](/docs/transformers/v5.23.0/id/main_classes/configuration#transformers.PreTrainedConfig) untuk informasi lebih lanjut.

Contoh:

```python
>>> from transformers import HieraConfig, HieraModel

>>> # Initializing a Hiera hiera-base-patch16-224 style configuration
>>> configuration = HieraConfig()

>>> # Initializing a model (with random weights) from the hiera-base-patch16-224 style configuration
>>> model = HieraModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config
```

## HieraModel[[transformers.HieraModel]]

#### transformers.HieraModel[[transformers.HieraModel]]

```python
transformers.HieraModel(config: HieraConfig, add_pooling_layer: bool = True, is_mae: bool = False)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L800)

**Parameter:**

config ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) : Kelas konfigurasi model dengan semua parameter model. Inisialisasi dengan file konfigurasi tidak memuat bobot yang terkait dengan model, hanya konfigurasinya. Lihat metode [from_pretrained()](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel.from_pretrained) untuk memuat bobot model.

add_pooling_layer (`bool`, *opsional*, defaultnya `True`) : Apakah akan menerapkan lapisan pooling atau tidak.

is_mae (`bool`, *opsional*, defaultnya `False`) : Apakah model dijalankan dalam mode MAE atau tidak.

Model Hiera polos yang menghasilkan hidden-states mentah tanpa head spesifik di atasnya.

Model ini mewarisi dari [PreTrainedModel](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel). Periksa dokumentasi kelas induk untuk metode generik yang diimplementasikan oleh pustaka ini untuk semua model (seperti mengunduh atau menyimpan, mengubah ukuran input embeddings, memangkas heads, dll.)

Model ini juga merupakan subclass dari [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) PyTorch. Gunakan sebagai PyTorch Module biasa dan merujuk ke dokumentasi PyTorch untuk semua hal yang berkaitan dengan penggunaan dan perilaku umum.

#### forward[[transformers.HieraModel.forward]]

```python
forward(pixel_values: typing.Optional[torch.Tensor] = None, noise: typing.Optional[torch.Tensor] = None, output_attentions: bool | None = None, output_hidden_states: bool | None = None, interpolate_pos_encoding: bool | None = None, return_dict: bool | None = None, **kwargs)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L824)

**Parameter:**

pixel_values (`torch.Tensor` dengan bentuk `(batch_size, num_channels, image_size, image_size)`, *opsional*) : Tensor yang sesuai dengan gambar input. Nilai piksel dapat diperoleh menggunakan [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor). Lihat [BitImageProcessor.__call__()](/docs/transformers/v5.23.0/id/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) untuk detailnya (`processor_class` menggunakan [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor) untuk memproses gambar).

noise (`torch.Tensor` dengan bentuk `(batch_size, num_mask_units)`, *opsional*) : Terutama digunakan untuk keperluan pengujian guna mengendalikan keacakan dan menjaga reproduktibilitas

output_attentions (`bool`, *opsional*) : Apakah akan mengembalikan tensor perhatian dari semua lapisan perhatian. Lihat `attentions` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

output_hidden_states (`bool`, *opsional*) : Apakah akan mengembalikan hidden states dari semua lapisan. Lihat `hidden_states` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

interpolate_pos_encoding (`bool`, *opsional*) : Apakah akan menginterpolasi enkoding posisi yang telah dilatih sebelumnya.

return_dict (`bool`, *opsional*) : Apakah akan mengembalikan [ModelOutput](/docs/transformers/v5.23.0/id/main_classes/output#transformers.utils.ModelOutput) alih-alih tuple biasa.

**Mengembalikan:** [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/id/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) atau `tuple(torch.Tensor)`

A [BaseModelOutputWithPooling](/docs/transformers/v5.23.0/id/main_classes/output#transformers.modeling_outputs.BaseModelOutputWithPooling) atau tuple dari `torch.Tensor` (jika `return_dict=False` diteruskan atau ketika `config.return_dict=False`) yang terdiri dari berbagai elemen tergantung pada konfigurasi ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) dan input.

Metode forward dari [HieraModel](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraModel) menimpa metode khusus `__call__`.

Meskipun resep untuk forward pass perlu didefinisikan di dalam fungsi ini, sebaiknya panggil instance `Module` setelahnya alih-alih fungsi ini, karena yang pertama menangani langkah-langkah pra-pemrosesan dan pasca-pemrosesan, sedangkan yang kedua mengabaikannya secara diam-diam.

- **last_hidden_state** (`torch.Tensor` dengan bentuk `(batch_size, sequence_length, hidden_size)`) -- Urutan hidden-states pada keluaran lapisan terakhir model.
- **pooler_output** (`torch.Tensor` dengan bentuk `(batch_size, hidden_size)`) -- Hidden-state lapisan terakhir dari token pertama dalam urutan (token klasifikasi) setelah diproses lebih lanjut melalui lapisan yang digunakan untuk tugas pra-pelatihan tambahan. Misalnya, untuk keluarga model BERT, ini mengembalikan token klasifikasi setelah diproses melalui lapisan linear dan fungsi aktivasi tanh. Bobot lapisan linear dilatih dari tujuan prediksi kalimat berikutnya (klasifikasi) selama pra-pelatihan.
- **hidden_states** (`tuple(torch.Tensor)`, *opsional*, dikembalikan saat `output_hidden_states=True` dilewatkan atau saat `config.output_hidden_states=True`) -- Tuple dari `torch.Tensor` (satu untuk output dari embeddings, jika model memiliki lapisan embedding, + satu untuk output dari setiap lapisan) dengan bentuk `(batch_size, sequence_length, hidden_size)`.

  Hidden-states model pada output setiap layer ditambah output embedding awal yang opsional.
- **attentions** (`tuple(torch.Tensor)`, *opsional*, dikembalikan ketika `output_attentions=True` dilewatkan atau ketika `config.output_attentions=True`) -- Tuple dari `torch.Tensor` (satu untuk setiap layer) dengan bentuk `(batch_size, num_heads, sequence_length, sequence_length)`.

  Bobot perhatian setelah softmax perhatian, digunakan untuk menghitung rata-rata berbobot di kepala self-attention.

Contoh:

```python
```

## HieraForPreTraining[[transformers.HieraForPreTraining]]

#### transformers.HieraForPreTraining[[transformers.HieraForPreTraining]]

```python
transformers.HieraForPreTraining(config: HieraConfig)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L1061)

**Parameter:**

config ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) : Kelas konfigurasi model dengan semua parameter model. Inisialisasi dengan file konfigurasi tidak memuat bobot yang terkait dengan model, hanya konfigurasinya. Lihat metode [from_pretrained()](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel.from_pretrained) untuk memuat bobot model.

Transformer Model Hiera dengan decoder di bagian atas untuk pra-pelatihan tanpa pengawasan.

Model ini mewarisi dari [PreTrainedModel](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel). Periksa dokumentasi kelas induk untuk metode generik yang diimplementasikan oleh pustaka ini untuk semua model (seperti mengunduh atau menyimpan, mengubah ukuran input embeddings, memangkas heads, dll.)

Model ini juga merupakan subclass dari [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) PyTorch. Gunakan sebagai PyTorch Module biasa dan merujuk ke dokumentasi PyTorch untuk semua hal yang berkaitan dengan penggunaan dan perilaku umum.

#### forward[[transformers.HieraForPreTraining.forward]]

```python
forward(pixel_values: typing.Optional[torch.Tensor] = None, noise: typing.Optional[torch.Tensor] = None, output_attentions: bool | None = None, output_hidden_states: bool | None = None, interpolate_pos_encoding: bool | None = None, return_dict: bool | None = None, **kwargs)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L1102)

**Parameter:**

pixel_values (`torch.Tensor` dengan bentuk `(batch_size, num_channels, image_size, image_size)`, *opsional*) : Tensor yang sesuai dengan gambar input. Nilai piksel dapat diperoleh menggunakan [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor). Lihat [BitImageProcessor.__call__()](/docs/transformers/v5.23.0/id/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) untuk detailnya (`processor_class` menggunakan [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor) untuk memproses gambar).

noise (`torch.Tensor` dengan bentuk `(batch_size, num_mask_units)`, *opsional*) : Terutama digunakan untuk keperluan pengujian guna mengendalikan keacakan dan menjaga reproduktibilitas

output_attentions (`bool`, *opsional*) : Apakah akan mengembalikan tensor perhatian dari semua lapisan perhatian. Lihat `attentions` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

output_hidden_states (`bool`, *opsional*) : Apakah akan mengembalikan hidden states dari semua lapisan. Lihat `hidden_states` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

interpolate_pos_encoding (`bool`, *opsional*) : Apakah akan menginterpolasi enkoding posisi yang telah dilatih sebelumnya.

return_dict (`bool`, *opsional*) : Apakah akan mengembalikan [ModelOutput](/docs/transformers/v5.23.0/id/main_classes/output#transformers.utils.ModelOutput) alih-alih tuple biasa.

**Mengembalikan:** `HieraForPreTrainingOutput` atau `tuple(torch.Tensor)`

A `HieraForPreTrainingOutput` atau tuple dari `torch.Tensor` (jika `return_dict=False` dilewatkan atau ketika `config.return_dict=False`) yang terdiri dari berbagai elemen tergantung pada konfigurasi ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) dan input.

Metode forward dari [HieraForPreTraining](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraForPreTraining) menimpa metode khusus `__call__`.

Meskipun resep untuk forward pass perlu didefinisikan di dalam fungsi ini, sebaiknya panggil instance `Module` setelahnya alih-alih fungsi ini, karena yang pertama menangani langkah-langkah pra-pemrosesan dan pasca-pemrosesan, sedangkan yang kedua mengabaikannya secara diam-diam.

- **loss** (`torch.Tensor` dengan bentuk `(1,)`) -- Loss rekonstruksi piksel.
- **logits** (`torch.Tensor` dengan bentuk `(batch_size, sequence_length, patch_size ** 2 * num_channels)`) -- Logits rekonstruksi piksel.
- **bool_masked_pos** (`torch.BoolTensor` dengan bentuk `(batch_size, sequence_length)`) -- Tensor yang menunjukkan patch mana yang di-mask (0) dan mana yang tidak (1).
- **ids_restore** (`torch.LongTensor` dengan bentuk `(batch_size, sequence_length)`) -- Tensor yang berisi indeks asli dari patch (yang diacak) yang dimasker.
- **hidden_states** (`tuple[torch.Tensor]`, *opsional*, dikembalikan ketika `output_hidden_states=True` dilewatkan atau ketika `config.output_hidden_states=True`) -- Tuple dari `torch.Tensor` (satu untuk output dari embeddings, jika model memiliki lapisan embedding, + satu untuk output dari setiap lapisan) dengan bentuk `(batch_size, sequence_length, hidden_size)`.

  Hidden-states model pada output setiap layer ditambah output embedding awal yang opsional.
- **attentions** (`tuple[torch.Tensor]`, *opsional*, dikembalikan ketika `output_attentions=True` dilewatkan atau ketika `config.output_attentions=True`) -- Tuple dari `torch.Tensor` (satu untuk setiap layer) dengan bentuk `(batch_size, num_heads, sequence_length, sequence_length)`.

  Bobot perhatian setelah softmax perhatian, digunakan untuk menghitung rata-rata berbobot di kepala self-attention.
- **reshaped_hidden_states** (`tuple(torch.Tensor)`, *opsional*, dikembalikan ketika `output_hidden_states=True` dilewatkan atau ketika `config.output_hidden_states=True`) -- Tuple dari `torch.Tensor` (satu untuk output embeddings + satu untuk output setiap layer) dengan bentuk `(batch_size, height, width, hidden_size)`. Hidden-states model pada output setiap layer ditambah output embedding awal, yang di-reshape untuk mencakup dimensi spasial.

Contoh:
```python
>>> from transformers import AutoImageProcessor, HieraForPreTraining
>>> import torch
>>> from PIL import Image
>>> from huggingface_hub.utils import httpx
>>> from io import BytesIO

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> with httpx.stream("GET", url) as response:
...     image = Image.open(BytesIO(response.read()))

>>> image_processor = AutoImageProcessor.from_pretrained("facebook/hiera-tiny-224-mae-hf")
>>> model = HieraForPreTraining.from_pretrained("facebook/hiera-tiny-224-mae-hf")

>>> inputs = image_processor(images=image, return_tensors="pt")

>>> outputs = model(**inputs)
>>> logits = outputs.logits
>>> loss = outputs.loss
>>> print(list(logits.shape))
[1, 196, 768]
```

## HieraForImageClassification[[transformers.HieraForImageClassification]]

#### transformers.HieraForImageClassification[[transformers.HieraForImageClassification]]

```python
transformers.HieraForImageClassification(config: HieraConfig)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L1207)

**Parameter:**

config ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) : Kelas konfigurasi model dengan semua parameter model. Inisialisasi dengan file konfigurasi tidak memuat bobot yang terkait dengan model, hanya konfigurasinya. Lihat metode [from_pretrained()](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel.from_pretrained) untuk memuat bobot model.

Hiera Model transformer dengan kepala klasifikasi gambar di atasnya (lapisan linear di atas keadaan tersembunyi akhir dengan pooling rata-rata) misalnya untuk ImageNet.

Perlu dicatat bahwa dimungkinkan untuk melakukan fine-tuning Hiera pada gambar dengan resolusi lebih tinggi daripada yang digunakan saat pelatihan, dengan mengatur `interpolate_pos_encoding` menjadi `True` di forward model. Hal ini akan menginterpolasi position embeddings yang telah dilatih ke resolusi yang lebih tinggi.

Model ini mewarisi dari [PreTrainedModel](/docs/transformers/v5.23.0/id/main_classes/model#transformers.PreTrainedModel). Periksa dokumentasi kelas induk untuk metode generik yang diimplementasikan oleh pustaka ini untuk semua model (seperti mengunduh atau menyimpan, mengubah ukuran input embeddings, memangkas heads, dll.)

Model ini juga merupakan subclass dari [torch.nn.Module](https://pytorch.org/docs/stable/nn.html#torch.nn.Module) PyTorch. Gunakan sebagai PyTorch Module biasa dan merujuk ke dokumentasi PyTorch untuk semua hal yang berkaitan dengan penggunaan dan perilaku umum.

#### forward[[transformers.HieraForImageClassification.forward]]

```python
forward(pixel_values, labels: typing.Optional[torch.Tensor] = None, output_attentions: bool | None = None, output_hidden_states: bool | None = None, interpolate_pos_encoding: bool | None = None, return_dict: bool | None = None, **kwargs)
```

[Sumber](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/models/hiera/modeling_hiera.py#L1222)

**Parameter:**

pixel_values (`` of shape `(batch_size, num_channels, image_size, image_size)`) : The tensors corresponding to the input images. Pixel values can be obtained using [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor). See [BitImageProcessor.__call__()](/docs/transformers/v5.23.0/id/model_doc/molmo2#transformers.Molmo2ImageProcessor.__call__) for details (`processor_class` uses [BitImageProcessor](/docs/transformers/v5.23.0/id/model_doc/bit#transformers.BitImageProcessor) for processing images).

labels (`torch.LongTensor` dengan bentuk `(batch_size,)`, *opsional*) : Label untuk menghitung loss klasifikasi/regresi gambar. Indeks harus berada dalam `[0, ..., config.num_labels - 1]`. Jika `config.num_labels == 1`, loss regresi dihitung (Mean-Square loss). Jika `config.num_labels > 1`, loss klasifikasi dihitung (Cross-Entropy).

output_attentions (`bool`, *opsional*) : Apakah akan mengembalikan tensor perhatian dari semua lapisan perhatian. Lihat `attentions` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

output_hidden_states (`bool`, *opsional*) : Apakah akan mengembalikan hidden states dari semua lapisan. Lihat `hidden_states` di bawah tensor yang dikembalikan untuk detail lebih lanjut.

interpolate_pos_encoding (`bool`, *opsional*) : Apakah akan menginterpolasi enkoding posisi yang telah dilatih sebelumnya.

return_dict (`bool`, *opsional*) : Apakah akan mengembalikan [ModelOutput](/docs/transformers/v5.23.0/id/main_classes/output#transformers.utils.ModelOutput) alih-alih tuple biasa.

**Mengembalikan:** `HieraForImageClassificationOutput` atau `tuple(torch.Tensor)`

Sebuah `HieraForImageClassificationOutput` atau tuple dari `torch.Tensor` (jika `return_dict=False` dilewatkan atau ketika `config.return_dict=False`) yang terdiri dari berbagai elemen tergantung pada konfigurasi ([HieraConfig](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraConfig)) dan input.

Metode forward dari [HieraForImageClassification](/docs/transformers/v5.23.0/id/model_doc/hiera#transformers.HieraForImageClassification) menimpa metode khusus `__call__`.

Meskipun resep untuk forward pass perlu didefinisikan di dalam fungsi ini, sebaiknya panggil instance `Module` setelahnya alih-alih fungsi ini, karena yang pertama menangani langkah-langkah pra-pemrosesan dan pasca-pemrosesan, sedangkan yang kedua mengabaikannya secara diam-diam.

- **loss** (`torch.Tensor` dengan bentuk `(1,)`, *opsional*, dikembalikan saat `labels` disediakan) -- Loss klasifikasi (atau regresi jika config.num_labels==1).
- **logits** (`torch.Tensor` dengan bentuk `(batch_size, config.num_labels)`) -- Skor klasifikasi (atau regresi jika config.num_labels==1) (sebelum SoftMax).
- **hidden_states** (`tuple(torch.Tensor)`, *opsional*, dikembalikan saat `output_hidden_states=True` dilewatkan atau saat `config.output_hidden_states=True`) -- Tuple dari `torch.Tensor` (satu untuk output dari embeddings, jika model memiliki lapisan embedding, + satu untuk output dari setiap tahap) dengan bentuk `(batch_size, sequence_length, hidden_size)`. Hidden-states (juga disebut feature maps) dari model pada output dari setiap tahap.
- **attentions** (`tuple(torch.Tensor)`, *opsional*, dikembalikan ketika `output_attentions=True` dilewatkan atau ketika `config.output_attentions=True`) -- Tuple dari `torch.Tensor` (satu untuk setiap layer) dengan bentuk `(batch_size, num_heads, patch_size, sequence_length)`.

  Bobot perhatian setelah softmax perhatian, digunakan untuk menghitung rata-rata berbobot di kepala self-attention.
- **reshaped_hidden_states** (`tuple(torch.Tensor)`, `optional`) -- Tuple dari `torch.Tensor` (satu untuk output embeddings + satu untuk output setiap stage) dengan bentuk `(batch_size, height, width, hidden_size)`. Ini adalah hidden states model yang telah di-reshape dan di-roll ulang.

  Hidden-states model pada output setiap lapisan ditambah output embedding awal yang di-reshape untuk mencakup dimensi spasial.

Contoh:

```python
>>> from transformers import AutoImageProcessor, HieraForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("facebook/hiera-base-224")
>>> model = HieraForImageClassification.from_pretrained("facebook/hiera-base-224")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...
```

