Absurdalny atak polegał na proszeniu ChatGPT o powtarzanie słowa w nieskończoność - dość szybko, po słownie np. “wiersz” albo “książka” pojawiały się treści na bazie których działa ChatGPT, ujawniając, że w całości znajdują się one w jego pamięci.

  • Waćpan@szmer.info
    link
    fedilink
    Polski
    arrow-up
    3
    ·
    1 year ago

    Kontestuję określenie “treść kradziona”, a już szczególnie w odniesieniu do Wikipedii z CC. Co leży w Internecie/World Wide Webie do replikacji – to się stało publiczne, nie można tego ukraść. Również podejścia typu Prawo do bycia zapomnianym w UE nie spowodują, że osoba zniknie z już zaindeksowanych danych. Skoro autorami pracy są ludzie z Carnegie Mellon, to tak się składa, że od lat Sieć czesze (dając nb. wkład też do AI/ML-LLM) budując tzw. ontologię CMU NELL: http://rtw.ml.cmu.edu/rtw/ .

    This paper should serve as yet another reminder that the world’s most important and most valuable AI company has been built on the backs of the collective work of humanity, often without permission, and without compensation to those who created it.

    – to przyczynek do rozważań o alternatywnych modelach socjoekonomicznych, w tym “renty od postępu naukowo-technologicznego” typu UBI. Właśnie OpenAI ma w tym swój wkład, bo przecież także widzą tę trajektorię doskonale: http://www.cnbc.com/2021/03/30/openai-ceo-sam-altman-says-ai-could-pay-for-ubi-experts-disagree.html .

    • miklo@szmer.info
      link
      fedilink
      arrow-up
      2
      ·
      11 months ago

      Ten bełkot ekonomiczny Altmana (tu źródłowy tekst: https://moores.samaltman.com ) nie ma nic wspólnego z UBI. To raczej propozycja, żeby każdy stał się kapitalistą, i już za 10lat, ten zysk z kapitału w USA będzie wynosić , średnio na łeb $13500 rocznie. A skąd ten zysk z kapitału ? No więc z firm opartych na AI oraz… wzrostu wartości ziemi.

      Spróbowałem wyciągnąć kluczowe fragmenty tego bełkotu bo tam sprzeczność goni sprzeczność:

      Najlepszym sposobem na ulepszenie kapitalizmu jest umożliwienie każdemu czerpania z niego bezpośrednich korzyści jako właściciel kapitału. Nie jest to nowy pomysł, ale będzie on na nowo wykonalny, gdy sztuczna inteligencja stanie się potężniejsza, ponieważ będzie znacznie więcej bogactwa do rozdania. Dwoma dominującymi źródłami bogactwa będą 1) firmy, zwłaszcza te wykorzystujące sztuczną inteligencję, oraz 2) ziemia, której podaż jest stała.

      […]

      W Stanach Zjednoczonych znajduje się prywatna ziemia o wartości około 30 bilionów dolarów. Załóżmy, że wartość ta również podwoi się w ciągu następnej dekady - jest to nieco szybsze tempo niż historyczne, ale gdy świat naprawdę zacznie rozumieć zmiany, jakie spowoduje sztuczna inteligencja, wartość ziemi, jako jednego z niewielu naprawdę skończonych aktywów, powinna rosnąć w szybszym tempie. Oczywiście, jeśli zwiększymy obciążenia podatkowe związane z posiadaniem ziemi, jej wartość zmniejszy się w stosunku do innych aktywów inwestycyjnych, co jest korzystne dla społeczeństwa, ponieważ sprawia, że podstawowy zasób jest bardziej dostępny i zachęca do inwestowania zamiast spekulacji. Wartość spółek również zmniejszy się w perspektywie krótkoterminowej, choć z czasem będą one nadal osiągać całkiem dobre wyniki. Rozsądne jest założenie, że taki podatek spowoduje spadek wartości gruntów i aktywów korporacyjnych o 15% (co zajmie tylko kilka lat!). Zgodnie z powyższym zestawem założeń (obecne wartości, przyszły wzrost i spadek wartości wynikający z nowego podatku), za dekadę każdy z 250 milionów dorosłych Amerykanów otrzyma około 13 500 USD rocznie. Dywidenda ta może być znacznie wyższa, jeśli sztuczna inteligencja przyspieszy wzrost, ale nawet jeśli tak się nie stanie, 13 500 USD będzie miało znacznie większą siłę nabywczą niż obecnie, ponieważ technologia znacznie obniży koszty towarów i usług. A ta efektywna siła nabywcza będzie rosnąć dramatycznie każdego roku.

      Czyli:

      • cena ziemi będzie rosnąć i z podatków od tego wzrostu będzie kasa do podziału
      • ceny “towarów i usług” będą maleć bo “technologia obniży koszty”

      Biedaczek zapomniał tylko zauważyć, że ktoś tę ziemię o rosnącej wartości już posiada i faktycznym beficjentem tego wzrostu będą właściciele ziemi oraz właściciele firm techologicznych opartych na AI. Więc jak zrobić kapitalistów z setek milionów szaraczków ? Może tego nie pamiętacie albo jeszcze was na świecie nie było ale… tak, u nas to już było. No prawie to. Nazywało się Program Powszechnej Prywatyzacji: https://pl.wikipedia.org/wiki/Program_Powszechnej_Prywatyzacji i większość z 27mln “kapitalistów” wyszła z tego interesu ze stówą (100zł) w ręce. A kto naprawdę zarobił ? No… prawdziwi kapitaliści oczywiście :-)

  • Pajonk@szmer.info
    link
    fedilink
    Polski
    arrow-up
    2
    ·
    11 months ago

    Ciekaw jestem czy spowoduje to stworzenia nowego rodzaju licencji, gdzie materiały będące w i tak będą mogły być blokowane przed wykorzystaniem ich do szkolenia AI.

    Na szczęście przed nami jeszcze wiele wiele lat, zanim te wszystkie AIboty zaczną faktycznie przypominać sztuczną inteligencję. Dziś to 80% marketingu, 15% sprytnych sztuczek i 5% umiejętności rysowania ładnych obrazków i wyszukiwania treści w internecie.

    • didleth@szmer.info
      link
      fedilink
      arrow-up
      1
      ·
      11 months ago

      nie liczyłabym na to, że to zajmie “wiele lat”. Już teraz nieraz ciężko odróżnić, co napisał człowiek, a co sztuczna inteligencja. W Porto Allegro rada miasta przepchnęła uchwałę wygenerowaną przez ChatBota, także ten…

      A odnośnie “nowego rodzaju licencji” - przydałaby się.

      • Pajonk@szmer.info
        link
        fedilink
        arrow-up
        1
        ·
        11 months ago

        Bardzo łatwo to odrodzić, tylko trzeba wiedzieć o co pytać i czego szukać.

        Pisanie stosunkowo prostych tekstów, działanie jak trochę lepsza wyszukiwarka internetowa czy rysowanie ładnych obrazków to ciągle za mało żeby to nazwać inteligencją.

        Polecam poczytać jak te ani boty radzą sobie z prostymi zadaniami z matematyki, albo z weryfikowaniem i posługiwaniem się źródłami. Tam widać jak nieudolne one są.

        • didleth@szmer.info
          link
          fedilink
          arrow-up
          1
          ·
          11 months ago

          to ciągle za mało żeby to nazwać inteligencją

          “to ciągle za mało żeby to nazwać inteligencją” - w “sztucznej inteligencji” nie chodzi o to, czy jest “inteligentna”. A to, co AI potrafi, przysparza masy problemów już w chwili obecnej

  • zeshi@szmer.info
    link
    fedilink
    Polski
    arrow-up
    1
    ·
    edit-2
    11 months ago

    Gwarantuję że każda poważna firma zajmująca AI trenuje swoje modele na co najmniej “niejasnych prawnie” danych tylko się nie przyznaje. Prawo zupełnie nie nadąża za AI, a koncept własności intelektualnej i tak jest do zaorania z perspektywy wolnościowej i lewicowej. To dotyczy nie tylko czatów ale też tego co nazywamy zazwyczaj Machine L:earning w ogóle, więc nie tylko słowa i czaty,

    Raczej nie nazwałbym tego “trzymaniem ksiązki w pamięci” bo nie tak dizałają LLM - one tylko predykują kolejny najbardziej prawdopodobny token, co w przypadku czatu oznacza słowo. Dlatego czasem jak je prosimy o link to dostajemy link, a czasem ten link jest efektem halucynacji. Tak naprawdę czaty halucynują wszystko co generują, nie ma tam “sensu” w ludzkim rozumieniu.

    IMO nie ma w tym nic złego, tak jak @Waćpan wspomina to przede wszystkim podkreśla problemy systemowe, klasyczną prywatyzację zysków i uspołecznienie kosztów. Chociaż tym razem przynajmniej te koszty są brane z przeszłości.

    • didleth@szmer.info
      link
      fedilink
      Polski
      arrow-up
      1
      ·
      11 months ago

      a koncept własności intelektualnej i tak jest do zaorania z perspektywy wolnościowej i lewicowe

      “a koncept własności intelektualnej i tak jest do zaorania z perspektywy wolnościowej i lewicowe” - nie jest. Lewicowość polega m. in. na ochronie praw pracowniczych - więc stwierdzenie, że osoba wykonująca pracę artystyczną, graficzną, muzyczną, rękodzielniczą, dziennikarską, pisarską, etc. nie ma prawa do swojego zarobku, bo ktoś sobie uznał, że cały dorobek jej pracy jest “dobrem publicznym” podchodzi pod wychwalanie wyzysku. Tutaj kluczowe jest prawo wyboru twórcy czy twórczyni - czy i w jaki sposób chce na swoim dziele zarabiać. A nie oszukujmy się - co innego wrzucić wolontariacko krótki tekst na szmer czy fb, co można zrobić “po godzinach”, a co innego poświęcić np. 3 lata życia na solidną książkę. Jeśli ludzie mają to robić (tzn. być na stałe pisarzami i pisarkami, dziennikarzami i dziennikarkami, grafikami i graficzkami itp.) - to muszą być w stanie się z tego utrzymać. Chyba, że oddamy prawo do tworzenia jedynie takim ludziom, którzy żyją np. z bycia akcjonariuszami, wynajmu licznych nieruchomości itp. i w związku z tym mogą zająć się nieodpłatną twórczością w czasie wolnym - ale to znów “lewicowe” nie będzie.

      • zeshi@szmer.info
        link
        fedilink
        arrow-up
        2
        ·
        edit-2
        11 months ago

        edycja: żeby mniej więcej narkeślić z jakiej perspektywy wychodzę - mówiąż że chcę zaorania prawa też nie mam na myśli żeby zaorać prawo pracy, tylko cały koncept legalizmu i prawa jako przede wszystkim służący utryzmaniu władzy i porządku. Kapitaliści nie istnieją w próżni, prawo jest dla nich.

        Tylko że własność intelektualna nie została i nigdy nie służyła “małym twórcom”. Analogia praw pracowniczych nie ma tu zastosowania ponieważ prawa pracownicze zostały wywalczone jako (mierna ale zawsze) przeciwwaga do tej bardziej tradycyjnej własności. Prawo własności intelektualnej to skrajnie kapitalistyczna regulacja o piertownej i najwazniejszej funkcji wspierania kapitalistów, która została jako tako rozciągnięta na drobnyhc twórców, możę specjalnie, może przypadkiem. Jej głównym celem były i do dziś są patenty - na oprogramowanie, wiedzę, szczepionki i preparaty ratujące życie. W kontekśćie sztuki kształt praw autorskich w dużym stopniu nadał np. Disney, będący wszystkim czego drobni twórcy nienawidzą - to dizęki nim mamy skrajnie długie patenty na sztukę i mały twórca nie może tworzyć własnej fikcji z myszką miki czy co tam sobie kupią (np Gwiezdne Wojny bo czemu nie). Trudno nie wspomnieć o tym że dziś prawa własność intelektualnej są ważniejsze niż marksistowskie opisy wyzysku w fabrykach, w sztuczny sposób ogranicza legalność wiedzy i jakiekolwiek resztki konkurencji na rynku. Wystarczy pomyśleć o “geniuszach” jak Edison skupujących patenty żeby mieć z nich górę złota i uchodzić za wizjonera, czy to żarówki, czy samochody, czy maszyny do szycia.

        Z perspektywy lewicowej prawo własności intelektualnej właśnie dlatego jest do kompletnego zaorania - to czysta forma monopolizmu. Zaoranie własności intelektualnej nie oznacza odebrania małym autorom zdolności do walki o swoje i zastąpienia ich paróweczkami Korwina. Oznacza przede wszystkim ich podstawowej monopolistycznej funkcji, najlepiej od razu razem z landlordyzmem (chociaż to jednak nieco inny temat bo przynajmniej jest to “prawdziwa” własnosć, a nie ograniczanie myslenia przemocą). Chociaż pokłóciłbym się że możliwości ogromnej większości małych twórców do dochodzenia swoich racji są skrajnie ograniczone, a ich potencjał ograniczony gąszczem absurdalnych praw autorskich, nierzadko w rękach korporacji. Oraz o to jak piractwo nie zabija sztuki ani jak prawa autorskie nie powodują że artyści przestali biedować pomimo streamingu itp.

        Jakbym miał akurat bardziej komunistyczny dzień to bym jeszcze wyciągnał Kropotkina, że wszystko jest wszystkich skoro wszyscy na to pracowali. Książka zrodzona w głowie autora, czy badanie zrodzone w głowie naukowca, to przecież także odrobina wkładu własnego na bazie ogromu wiedzy i kultury wygenerowanej przez miliardy ludzi (nie umniejszając bardoz realnej i często wymagającej pracy za którą należy się zapłata). Ale nie można tak bo przyjdzie pan Disney i utnie łapki złodziejowi popełniającemu “kradzież” pomysłu Gwiezdnych Wojen. Lub w gorszym przypadki pan Pfizer bioinżynierowi produkującemu ratujące życie szczepionki zgodnie z zapotrzebowaniem.

        Fakt że sztukę można robić tylko albo jak się jest bogatym, albo jak się ma dobrego sponsora, albo po zapieprzaniu w fabryce, to realia wyzysku także na bazie własności intelektualnej.

        • didleth@szmer.info
          link
          fedilink
          arrow-up
          1
          ·
          edit-2
          11 months ago

          Ad "Tylko że własność intelektualna nie została i nigdy nie służyła “małym twórcom”. - to, że często nie szanują ich pracy - niektórzy z braku świadomości (sama czasem teksty bez zgody na szmer przerzucałam, bo nie wiedziałam, że nie można), a niektórzy z premedytacji - bo dla nich ta cała rzesza ludzi to właśnie “tylko mali twórcy” niewarci ochrony, nie oznacza, że tak powinno być. I odbieranie im prawa do zarobku w imię “nie możesz opracować własnego wzoru chusty” tudzież “pracowałaś 3 lata nad ksiażką, teraz nic z tego nie masz a książka jest publiczna, bo nie jesteś Disnayem, a niektórzy lubią Kropotkina” w żaden sposób nie sprawi, że takie postępowanie stanie się etyczne. Można dyskutować na temat tego, jak powinno wyglądać prawo autorskie, co w jego granicach powinno być, a co nie powinno być legalne, jakie dodatkowe prawa powinny chronić twórców i twórczynie itp. - ale sama koncepcja ochrony ich twórczości zdecydowanie jest ok i nie jest “do zaorania”, wręcz przeciwnie. Tu nie USA - opracujesz sobie wzór swetra, to masz prawa autorskie do wzoru tego swetra, bez żadnych dodatkowych landlordów czy patentów. I masz prawo na nim zarabiać. Ktoś inny może sobie wydziergać podobny sweter na własne potrzeby, ale jak chce zarabiać na twoim - powinien uzyskać twoją zgodę lub wymyślić inny wzór. Proste. Kiedyś czytałam wywiad dot. tatuaży - ktoś się twórczyni wzoru wycinanki zapytał, czy może sobie wydziarać jej wycinankę. I to było jak najbardziej ok. Już abstrahując od praw autorskich (bo może w ramach dozwolonego użytku by przeszło…) - w ten sposób po prostu okazuje się ludziom szacunek.

          Ad “Oraz o to jak piractwo nie zabija sztuki” - to dużo bardziej skomplikowane, dochodzi kwestia modelu biznesowego, gigantów typu Empik, zmiany nawyków konsumenckich (ludzie nieraz wolą durny filmik z tik toka niż dobrą książkę) itp. A z drugiej strony twórca na tym traci. Sama np. pożyczam papierowe książki - bo wiem że albo do mnie wrócą, albo zostaną “na wieczne nieoddanie” u pożyczającego, ale boję się pożyczać e-booki. Bo nigdy nie wiem, co pożyczający z tym zrobi.

          “Fakt że sztukę można robić tylko albo jak się jest bogatym, albo jak się ma dobrego sponsora, albo po zapieprzaniu w fabryce, to realia wyzysku także na bazie własności intelektualnej.” tyle, że teraz można robić sztukę będąc przeciętniakiem - nie daje to kokosów, ale daje dochód. To odbieranie twórcom i twórczyniom prawa do zarabiania na swojej pracy (i de facto tym samym prawa do jakiejś godności) sprowadzi ich pracę do takiej, którą mogą robić tylko bogaci. Innych dziedzin (bo to często popularyzowanie wiedzy, dziennikarstwo itp.) także to dotyczy.

          I żeby nie było - sama święta nie jestem, nieraz coś przerzucę (mem najczęściej ;p), a w czasach studenckich zachowywałam się jak wszyscy, nieraz mam wątpliwości, czy prawo autorskie nie idzie w jednej kwestii za daleko, w innej - wręcz przeciwnie, ale nie mam wątpliwości co do tego, że powinno być chronione.

          • zeshi@szmer.info
            link
            fedilink
            arrow-up
            1
            ·
            edit-2
            11 months ago

            Szczerze mówiąc nie rozumiem czemu skupiasz się tak bardzo na wzorach swetra czy nawet napisanie książki. Jeżeli podstawową funkcją i w zasadzie głównym prawa własności intelektualnej jest po prostu wyzysk , zazwyczaj przez cwaniaków którzy te prawa kupili albo zainwestowali i teraz chcą pobierać rentę, dożywotnią najlepiej.

            Twoja argumentacja przypomina mi trochę rozmowy z prawicowcami którym Jak się mówi że może ten koncept własności jest zaorania, to oni od razu zarzucają że przecież trzeba chronić prawo ludzi do posiadania własnego domu. Kiedy mówimy o z pełnym zniszczeniem upraw własności to raczej mamy na myśli instytucje które utrzymują je przemocą i wszelkie ich dobrodziejstwa to naprawdę bardzo drugorzędne jak nie trzeciorzędne regulacje.

            I skoro o przemocy mowa pomyśl jak wielką skalę przemocy trzeba utrzymywać żeby istniały. To są wszystkie te państwowe instytucje których każdy prawilny lewak nienawidzi. Moim zdaniem istnieją bardzo dobre metody monetyzacji działalności małych autorów i nawet dzisiaj nie widzimy ale jeśli muszę je poświęcić po to żeby nie było patentów na szczepionki czy w jakich korporacji kupujących prawa autorskie na dekady, to ok. I tak spodziewam się drastycznego podniesienia poziomu życia i wymaganego minimalnego czasu pracy żeby się utrzymać.

            Fakt że ze sztuki trzeba się utrzymywać albo mieć wolne zasoby to fakt w obecnym kontekście kapitalizmu, a przecież to w tym kontekście pracownicy są wywłaszczeni i konkurują z fast fashion szyjącymi ubrania rękami nisko opłacanych pracowników żyjących w warunkach których raczej nie uznajemy za zbyt godne.

            Natomiast myślę że wolno oprogramowanie pokazuje nam że można wymyślać całkiem sporo i Wręcz specjalnie nie ograniczać użycia wytworów.

            Spodziewam się raczej modelu wolnego oprogramowania i innych form monetyzacji niż kompletnie zapaści małych twórców.

            • didleth@szmer.info
              link
              fedilink
              arrow-up
              1
              ·
              edit-2
              11 months ago

              dla ciebie podstawową funkcją jest wyzysk, dla twórcy czy twórczyni - ochrona jej pracy. Czyli właśnie tego wzoru swetra czy innego dzieła. To, że ciężko im się z twórczości utrzymać (czasami się da - weź chociażby Miłosza Szymańskiego z Za Rubieżą, który żyje tylko z tego) jest argumentem za tym, by bardziej ich pracę chronić a nie, by odbierać im prawo do, i tak niewielkich, zysków z niej. A co do modelu wolnego oprogramowania - sorry, działałam w indymediach, ale wolontariat to wolontariat, a praca zarobkowa to praca zarobkowa. Byli tacy jedni, którzy notorycznie kradli nasze teksty i to mega wkurwiało, mimo, iż dla nas to był “tylko” wolontariat i to, czy opłacimy z tego czynsz lub będziemy mieli na leki dla dziecka nie było od tego w żaden sposób zależne. A co dopiero ma powiedzieć zawodowy dziennikarz, podcaster czy grafik, który włożył w swoje dzieła lata pracy, trudu i środków i nagle miałby stracić źródło utrzymania, bo ktoś uznał, że to wyzyskiwacz i że teraz ma sobie, wraz z rodziną, radośnie jeść tynk ze ścian…

              • zeshi@szmer.info
                link
                fedilink
                arrow-up
                1
                ·
                11 months ago

                jest argumentem za tym, by bardziej ich pracę chronić a nie, by odbierać im prawo do, i tak niewielkich, zysków z niej

                nie rozuimem czemu nalegasz na rozmowę o prawach autorskich tu i teraz, zamiast o mechanizmie jako takim. Znowu użyję porównania - można krytykować państwo bez nienawidzenia osób potrzebujących zasiłku, a jednak anarchizujący lewicowcy często to robią.

                Nikt nie sugerował że dziennikarz jest wyzyskiwaczem, wręcz jasno podkreśliłem że za pracę należy się zapłata. Tylko jeśli nieetyczne jest zabranie owoców czyjejść pracy (że tak po marksistowsku powiem) to warto też się zastanowić na ile etyczne są same fundamenty prawa własności i przemocowe instytucje na ich straży bo ich skala jest drastycznie większa. Jeśli uznamy że prawo własności to część prawa tak ogólnie, to odbiera autorom też część narzędzi dochodzenia swoich racji pod groźbą gorszych konsekwencji.

                Nie wiem czy zdajesz sobie z tego sprawę ale przyjmujesz w tej rozmowie bardzo kapitalistyczny kontekst - biedni tówrcy ciągle muszący martwić się o zjedzenie resztek tynku ze ścian.

                Nie jestem w stanie przewidzieć czy będzie się dało monetyzować swoją pracę w dokładnie taki sposób jak teraz jednak to drastycznie inne obawy niż o śmierć głodową.

                Argument z Indymedia trochę się mija z tym co miałem na myśli pisząc o wolnym oprogrmowaniu za któe niektórzy twórcy mają płacone kiedy przy nim pracują, istnieja całe organizacje jak Signal czy Mozilla które utrzymują pełnoetatowych pracowników - to wcale nie musi być wolontariat jeśli nie dostają tantiemów od tego co napisali. Spora część internetu i komputerów stoi na tej pracy. Niestety co najmniej częściowo w żaden sposób nieodpłatnej.

                • didleth@szmer.info
                  link
                  fedilink
                  arrow-up
                  1
                  ·
                  11 months ago

                  Bo żyjemy “tu i teraz”, twórcy i twórczynie wykonują swoją pracę “tu i teraz” i muszą się z niej utrzymać “tu i teraz”. Niezależnie od teoretycznych rozważań losowych osób, takich jak Ty czy ja, odnośnie tego, co jest “lewicowe”, a co “kapitalistyczne”. To “tu i teraz” decyduję o tym, czy przerzucę grafikę lub tekst z facebooka na szmer bez zgody właściciela/ki profilu. To tu i teraz decyduję, czy informując o czymś podam źródło informacji - co też świadczy o szacunku do autora/ki. To tu i teraz decyduję, czy kupię torebkę za 200 zł od rękodzielnika/czki, czy “taką samą w chińskim sklepie za 10 zł!!” - jak zachęcają niektórzy, czy nie kupię w ogóle uznając, że skoro nie stać mnie na tą za 200 zł, to bez tej za 10 zł też się obędę.

                  A kwestie pracownicze w organizacjach to osobny problem, ale przede wszystkim: wielu twórców i twórczyń to silne indywidualności i niekoniecznie dobrze czułyby się w strukturze organizacji. Organizacje powinny istnieć jako jedna z form, ale nie jako jedyna. Założenie, że potrzeba od razu 5 osób (taki był ostatnio wymóg przy spółdzielniach) udupiłoby wiele wartościowych projektów już na starcie. Twórcy i twórczynie już teraz mają dość ciężko, bez konieczności obowiązkowego szukania jakiejś organizacji