Onur Mutlu's livestream lecture videos from the Computer Architecture course taught at ETH Zürich in Fall 2021.

Course website including all slides and assignments: https://safari.ethz.ch/architecture/fall2021/doku.php?id=schedulehttps://safari.ethz.ch/architecture/fall2021/doku.php

• 자기소개

  취리히연방 공대 ETH Zurich ITET 교수, 카네기 멜론 Strecker 교수?,

  UT Austin 출신, 구글, VMware, Microsoft, Intel, AMD 재직

• Four Key Current Directions

  근본적으로,

  Secure/Reliable/Safe,

  Energy-efficient(Memory-centric, Data-centric),

  Low Latency and Predictable,

  AI/ML, Genomics, Medicine, Health용 Architecture를 다룬다

• The Transformation Hierarchy

  

  컴아키는 좁게보면 SW/HW Interface ~ uArch. 지만, 넓게 보면 Device부터 Algorithm까지.

  → we must take the expanded view of computer architecture.

• Mindset

  랩실 사람들 소개하고, Zoom에서는 카메라 키고 있는 걸 선호하시는 듯

  Impactful Research랑 논문 보는 법들 같은 강의 highly recommend하심

  …Teaching drives Research, Research drives Teaching… (loop)

  Focus on Insight, encourage new ideas

  Follow Your Passion (부정적인 사람에 영향받지마라, 예시로 인텔의 AVX? SIMD 같은거 드심)

  Working Hard가 Passion이 되기도

// 강의 시작

• Workload X, Y, Z에 대해서 높은 performance
• 주머니 속 폼팩터에서 긴 배터리(power) & cost
• performance/cost ratio… 수퍼컴은 모바일과 다르긴 하지만 Fundamental은 similar

Different Platforms, Different Goals

• D.C는 performance 지향

• TPU: Google에서 Machine Learning 추론 등 Task 가속하기 위해서

  Systolic Array에 대해서도 다룰거다

  Tesla는 GPU랑 ARM기반 CPU 달려 있는데, Two redundant chips for better safety.

  Cerebras WSE-2 거의 웨이퍼 통째로 쓴 가장 ML Accelerator chip (2021)- interconnect 중요

  Processing in Memory

  • 1960년대 나온 개념인데 왜 안됐음. 암튼 DRAM + PIM-enabled Memory 엔진 예
  • Software Stack 관련 프로그래밍이 필요하고 맞는 컴파일러 필요
  • 냈던 논문 있는데 나중에 다루겠다. Data Centric / Memory Centric Revolution!

• 결론적으로 What is Computer Architecture?

  functional부분, performance, energy consumption, 비용이나 특정 목표를 만족하는 컴퓨터 시스템을 만들기 위해 HW components를 상호 연결하고 HW/SW 인터페이스를 설계하는 기술이자 과학이다.

• Why Study Computer Architecture?

  Enable better systems: faster, cheaper, smaller, more reliable, …

  Enable new applications, Enable better solutions

  Understand why computers work the way they do

• Computer Architecture Today

  컴퓨터 아키텍처 공부하기 최적. Paradigm shift to novel architecture! 그러나,

  • Many problems → Data intensive application, Power/Thermal 제약, 신뢰성, 프로그래밍
  • 그러나 clear하거나 definitive한 answer은 아직 없어서 공부해야함

• 컴퓨터 아키텍처 하이라키에서 bottom과 top 모두에 room(improvement의 가능성) 있음

  그러나, 중요한 것은 communicate well 할 때 거 큰 가능성이 열린다.

  → 독립적인 개선도 중요하지만 S/W ↔ H/W 조화에서의 최적화가 핵심이다.

• Some Cross-Layer Design 예시를 보여주겠다 - 논문들 보여주고 있는데, 넘어감

  • SW는 compression, HW는 가속화 뭐 이런 주제 많고, 근데 이런 관점에서 보면 Abstraction은 Barrier가 되기도 할 듯 Limited Communication

    Information bottle-neck 이라는 단어 좋네

  • Memory Error Vulnerability에 따라서 Datacenter Cost 최적화하는 논문 내셨네.

    App이나 Data마다 Data Resilience의 중요성이 다름

    여러가지 로직으로 Vulnerable Data랑 Tolerant Data 구분하고

    Vulnerable Data는 Reliable Memory에 넣고, Tolerant data는 Low-cost memory에 넣는다.

    뭐 대충 그런 얘기였고

  • Virtual Memory는 아주 좋은 Hardware Software co-design이다.

    이 강의에서 자세히 다루진 않겠다

• 요즘 날 컴퓨터 아키텍처에서 벌어지는 재미난 일들

  • 3D Xpoint나 PIM이나 PNM 같은 것들 논문들 대략적으로 소개해주심
  • 삼성 AxDIMM 등 뭐 전체적으로는 Data movement를 줄이는 방향